AIが作った音声に、見えない透かし。うちが持ち帰るのは確かめる側の道具

朝、留守番電話に社長あてのメッセージが一件。声は取引先の担当者に聞こえます。でも、言っていることが少しおかしい。急ぎで振込先を変えてほしい、という話です。声だけでは、本人かどうか分かりません。今のAIは、数秒のサンプルから声を似せて作れます。受け取った側は、それが本物の声なのか、機械が作った声なのか、耳では区別がつかなくなってきました。

こういう不安に、作り手の側から手が打たれ始めています。OpenAIは7月31日、AIで作った音声にも見えない透かしを入れると発表しました(発表原文)。ChatGPTの音声機能やGPT-Liveで作った音声に、SynthIDという技術で信号を埋め込みます。目には見えず、耳にも聞こえません。画像ではすでに同じ仕組みが入っていて、今回それが音声にも広がった、という話です。あわせて、届いた画像や音声がOpenAIで作られたものかを調べる確認ツールも公開されました。

この発表が、つくばの会社に持って来るもの

大事なのは、透かしを入れる側の話ではなく、確かめる側の話として読むことです。

うちの会社が自分でAI音声を量産する場面は、まだ多くないかもしれません。でも、外から届く音声や画像を疑う場面は、これから増えていきます。冒頭の留守電のような、声を似せた詐欺。取引先を装った画像。回ってきた、真偽の怪しい写真。こうしたものを前にしたとき、これはAIが作ったものか、を機械的に調べる窓口ができた、と考えられます。

透かしは、埋め込んだ信号を消しにくいのが特徴です。画像を切り抜いても、フィルターをかけても、圧縮して送っても、信号は残るように作られています。ファイルの付帯情報、たとえば撮影日時の欄と違って、中身そのものに信号があるからです。だから、受け取った画像や音声をそのまま確認ツールにかければ、OpenAIで作られたものかどうかの手がかりが得られます。金庫の鍵ではなく、荷物に貼られた宛名ラベルのようなもので、後からでも読み取れる印が中身に残っている、と考えると分かりやすいかもしれません。

一段だけ先を言うなら、これはAIで作れることへの対策が、AIを作る会社の側からも始まった、という区切りだと考えられます。うちが身構えるより先に、確かめる道具がそろっていく方向です。

試してみるなら

まず、確認ツールの場所を一度開いておきます。ブラウザで OpenAI の verify ページ(openai.com/research/verify)にアクセスすると、画像や音声のファイルをアップロードして、OpenAIで作られたものかを調べられます。無料で使えます。

疑わしい音声や画像が届いたら、ここに読み込ませてみてください。相手をその場で問い詰める前に、まず機械にかける。この順番を癖にしておくと、あわてて対応する事故が減ります。

社内で共有するなら、次の一文をそのまま回覧文に貼ってみてください。「振込先の変更や急ぎの送金を、音声メッセージや画像だけで判断しないこと。おかしいと感じたら、電話でかけ直して本人に確かめること」。透かしの確認は補助であって、最後は人の確認で止める、という線を先に引いておきます。

つまずきの先回り

この透かしで分かるのは、OpenAIで作られたかどうか、だけです。GeminiやほかのAIで作った音声・画像は、この確認ツールでは判定できません。作った道具ごとに確認先が違う、と考えておいてください。透かしが出なかったからといって、本物だと確定するわけではない点にも注意が要ります。

もう一つ。透かしは消えにくく作られていますが、万全ではありません。何度も編集を重ねたり、画面を写真に撮り直したりすると、信号が弱まることがあります。確認ツールが分からないと返すこともある、と割り切っておくのが安全です。

そして、この話は疑うための道具であって、疑わなくていい理由ではありません。声や画像が本物に見えても、お金や個人情報が動く話は、電話や対面で本人に確かめる。この基本は変わりません。透かしは、その確認を一つ増やすための道具として置いておくのが、ちょうどいい距離です。

明日できる小ささとしては、確認ツールのページをブックマークに一つ入れておくこと。それだけで、いざ怪しいものが届いたときの初動が変わります。