ファクトチェック

詳しく説明すると

ファクトチェックとは、ある情報が事実かどうかを、根拠となる情報源にさかのぼって確認する作業のことです。報道の世界の言葉でしたが、AIが仕事に入ってきたことで、使う側の日常の作業になりました。

必要になる理由は、AIの答え方の性質にあります。AIは、事実を知らない場合でも、それらしい文章を組み立ててしまうことがあります。ハルシネーションと呼ばれる現象で、文章の自信ありげな見た目と、中身の正しさが連動しません。だから、答えの使い道が社外に出る文書や数字が絡む判断であるほど、裏取りの工程が要ります。

たとえるなら、又聞きの噂を取引に使う前に、本人に電話で確かめる、という昔ながらの商売の作法です。相手がAIになっても、作法は変わりません。

実務での手順は、全部を疑うのではなく、危ない箇所に絞るのが現実的です。優先して確かめるのは三種類。数字(金額、日付、統計)、固有名詞(社名、製品名、法律名)、そして「〜が義務化された」「〜が発表した」のような断定です。確かめ方は、AIに出典を聞き、示されたページを実際に開いて、該当の記述を自分の目で見る。出典が開けない、または開いても書いていない場合、その情報は使わない。この単純な規則だけで、事故の大半は防げます。

注意点として、確認作業自体をAIの検索機能に任せる方法もありますが、最後の一目は人に残してください。裏取りまで含めて全部を任せた瞬間に、この工程は存在しなくなります。

関連語: 「ハルシネーション」 「ディープリサーチ」 「推論」