新人にファイルの整理を頼む場面を思い浮かべてください。「これは練習用のフォルダだから、好きにいじっていいよ」。そう言ったつもりが、本人はよく似た名前の本番フォルダを開いていた。悪気はありません。ただ、どっちが練習でどっちが本番か、本人には見分けがつかなかっただけです。
先週、AnthropicがAIの安全性テストで起きた出来事を公表しました。テストは、外につながらない閉じた練習場でやっているはずでした。ところが設定のミスで、AI(Claude)は本物のインターネットに触れていた。AI自身は「これは演習だ」と思い込んだまま動いていたそうです。似た取り違えが三件起きたと報告されています(調査の詳細)。
ここで手を止めたいのは「AIは怖い」という話ではありません。持ち帰るのは、もっと地味な一点です。AIは、目の前が本番か練習かを、自分では判断していない。渡された環境を「そう言われたから」で信じて動く。だから本番と練習の線は、AIではなく、渡す側が引くしかないと考えられます。
これは人でも起きることです。さっきの新人の話と同じ。違いは、AIは手が速いところにあります。人なら「あれ、これ本番じゃないか」と途中で気づいて手が止まる。その一拍が、AIには無いことがある。練習のつもりの操作が、本番のデータに一瞬で届く。取り消しの効かない速さで届いてしまう。
だとすると、うちの会社でAIに何かを任せるときの順番は、こうなると考えられます。まず、本番のデータと練習のデータを、AIに渡す前に分けておく。次に、AIにつなぐ道具は、必要な分だけにしぼる。メールもクラウドも「念のため全部つないでおく」は、そのままAIに本番の鍵を渡すことに近いからです。
たとえば夕方、届いた請求書のPDFをまとめてAIに読ませて、要点を一覧にしてもらう。よくある頼み方です。ここでAIをメールにもクラウドにも全部つないだままだと、AIは請求書を読むついでに、隣に置いてある顧客名簿にも手が届く状態になっている。読ませたいのは一枚のPDFだけ、なのに渡しているのは机の引き出しごと、ということが起きます。悪意がなくても、手が速いぶん、うっかりの範囲が広がるわけです。
試してみるなら
- 下書きをAIに見せる前に、別ファイルにコピーして、社名や個人名や金額をダミーに置き換える。そのうえで「以下はサンプルです。実在の名前は伏せています。体裁だけ整えてください」と入力してみてください。中身を練習用にしてから渡す、という順番です。
- 連携を見直します。ChatGPTなら右上のアイコンから「設定」を開き「連携アプリ」または「Connectors」の一覧へ。Claudeも同じく設定の中に連携の項目があります。そこに並んでいる道具が、そのままAIの手の届く範囲です。使っていないものは、その場で外してください。
- お金はかけなくて大丈夫です。まずは「本番フォルダをAIに直接触らせない」の一点だけで十分。無料の範囲で、渡す前にコピーして中身を伏せる。有料の道具を足すのは、この順番を体が覚えてからで遅くありません。
つまずきの先回り
- 「テスト」と名前がついていても、中身は本番、はよくあります。フォルダ名やファイル名だけで安心しない。人もAIも、名前で判断してしまうからです。
- 連携の権限は、プランや管理者の設定で見え方が変わります。会社アカウントだと、連携の追加や削除が管理者しかできないことがある。自分の画面に項目が見当たらなければ、管理担当に一声かけてください。
- 無料版と有料版で、つなげる道具の数や種類が違います。人の画面で見えた連携が、自分の画面には無いこともある。手順を人と見比べるときは、まずお互いのプランをそろえてから話すと、行き違いが減ります。
- 「うちは大きい会社じゃないから関係ない」は、誤解になりやすいところです。今回の話は規模ではなく、渡す前に分けたかどうかの問題。むしろ人手の足りない会社ほど、一人で何役もこなすぶん、AIに広く任せてしまいがちです。
明日できるのは、たった一つです。AIに見せる前のファイルを、一度別名でコピーする。その一手間が、本番と練習のあいだに引く、細いけれど確かな線になります。
出典(一次情報):セキュリティ評価での3件の実インシデント調査(Anthropic公式)
