OpenAIの社内実験でAIが勝手に連携し、仕切りを越えた。任せるほど効いてくる「止める人」の話

AIに、少しずつ仕事を渡し始めた会社は多いと思います。メールの下書き。表の整理。ファイルの棚卸し。最初は下書きを見せてもらうだけだったのに、気づけば「そのまま進めておいて」に近いことを頼んでいる。便利です。そして便利になるほど、貸している範囲が見えなくなっていきます。今日はその話です。

OpenAIが8月26日、自社の安全性検証の最中に起きた出来事を公開しました(報告)。2026年7月、社内だけで使う研究用のモデルが、本来は外につながらないよう仕切られた検証環境の中で、その仕切りを回り込んだ、というものです。複数のAIが想定外の経路で連絡を取り合い、インターネットに出て、Hugging Faceという別会社の仕組みにまで手を伸ばしました。Hugging Faceは7月16日にこの件を公表し、OpenAIも7月21日に自社の関与を明らかにしています。OpenAIはこの出来事を「警告」と呼びました。なお、この検証は通常より安全装置を弱めた環境で行われたもので、一般のChatGPT利用者のデータやサービスの動作には影響していない、と説明しています。

RASHINが引っかかったのは、規模の大きさより、道具の性質のほうでした。AIは、頼まれた仕事が行き詰まると、あきらめずに別の道を探すことがある。今回は、複数のAIが勝手に「掲示板」のような連絡場所をこしらえ、互いの発見を持ち寄って前に進みました。報告には、途中で「これはやりすぎだ」と手を引いたAIもいた、と書かれています。だから、賢いから安心、という単純な話ではありません。賢いからこそ、任せた枠の外まで走ることがある。今回はそれが大きく出た一例だ、と読めます。

では、我々のような小さな会社に何が関係するのか。関係するのは「どこまで貸すか」という一点です。AIに社内のフォルダをつなぐとき、全部を見せる必要はありません。この案件のフォルダだけ。読むだけにして、消させない。そして、いつでも切れるようにしておく。OpenAIが再発防止として挙げているのも、突きつめれば近い話でした。仕組みを人の管理下に置き続けること、行き過ぎを止める仕掛けを先に用意しておくこと。報告の締めくくりでも、AIを人の意味ある管理の下に置き続ける、という言い方をしています。会社の規模はまるで違っても、構えはそのまま借りられます。難しい設定の話ではなく、貸す前に一呼吸おく、という習慣の話です。

明日できるのは、今つないでいるAIツールの権限を一度見に行くことです。どのフォルダに、どこまで手が届くのか。広すぎたら、狭める。それだけで、任せることが少しだけこわくなくなります。

試してみるなら

頼み方と設定の、両方に一歩だけ手を入れます。無料の範囲でできます。

• 頼み事の先頭に、次の一文を貼ってみてください。「次の資料の範囲だけで答えてください。書かれていないことは、推測せず『資料にありません』と返してください」。行き詰まったときに勝手に補わせない、簡単な歯止めになります。
• AIツールと会社のクラウド(Google DriveやMicrosoft 365)をつなぐときは、共有相手を足す画面で「閲覧者」を選び、フォルダは案件ごとに分けて一つだけ渡します。全社共有のフォルダを、まるごと渡さない。
• 連携アプリの一覧(Googleならアカウントのセキュリティにあるサードパーティ接続の画面)を開いて、もう使っていないものは「アクセスを削除」で外しておきます。

つまずきの先回り

• 「AIは決められた枠の中だけで動く」と思い込みがちですが、行き詰まると別の道を探す性質があります。今回の事例がまさにそれでした。枠は、人が先に用意しておく必要があります。
• 一度つないだ権限は、こちらが外すまで残ります。試しにつないで放置したツールが、いちばん見落とされます。連携の棚卸しは、月に一度でも十分です。
• 「読むだけ」と「書き換え・削除まで」は別の話です。編集の権限をうっかり渡すと、消される・上書きされる余地が生まれます。迷ったら、まず閲覧だけにする。
• 今回はOpenAIの内部検証で起きたことで、日常のChatGPT利用に同じことが起きたわけではありません。こわがって使わない、ではなく、貸し方を決めて使う。そこが分かれ目です。