AIは「調べて」答えているわけではない

ChatGPTのようなAIは、辞書や台帳を引いて答えているのではありません。大量の文章を読んで育った結果、「この質問には、こういう続きの文章が来ることが多い」という予測で答えを組み立てています。

もの知りな人が記憶だけで答えている姿に近い、と考えると分かりやすいです。記憶だけで話す人は、たいてい正しくても、ときどき記憶違いを堂々と話します。AIも同じことが起きます。

それらしい間違い、が混ざる

この仕組みのせいで、AIの間違いは「それらしい」形で出てきます。存在しない本の題名や、少しずれた数字が、正しい情報とまったく同じ口調で並びます。口調から間違いを見分けることは、できません。

だから、仕事の割り振りが決まる

理由が分かると、対策は単純です。事実の確認は人の仕事として残す。そして、間違いが致命傷にならない仕事から任せる。文章の下書き、言い回しの調整、箇条書きの清書。この種の仕事は、仮に変な部分があっても読めばすぐ直せます。

逆に、金額や日付や固有名詞をAIの答えだけで確定させるのは、やめたほうがいい使い方です。

社内で一行だけ、線を引いておくのもおすすめです。「お客様に出す数字と固有名詞は、元の資料で確かめてから使う」。これだけ決めておけば、AIの記憶違いが会社の外に出ることは、まず防げます。慣れてくると、どの種類の質問で間違いが出やすいかも、体感でつかめてきます。

これは何を意味しないか

間違えることがある、はAIが使いものにならないという意味ではありません。人間の新人も間違えますが、確認の仕組みと組み合わせて立派に戦力になります。同じことです。

明日できる小ささ

明日AIに何か聞いたら、答えの中の事実をひとつだけ、あえて自分で確かめてみてください。合っていても外れていても、距離感がひとつ手に入ります。その積み重ねが、任せていい仕事の目利きになります。