AIが確認を待たずに動き出す。人間が「はい」を連打していた、という測定結果

パソコンの作業中、小さな確認の窓が出てくる。「この操作を実行しますか」。中身をよく読まないまま、はいを押す。そういう手が、あなたにもあると思います。ソフトの更新、ファイルの上書き、送信の直前。止めて聞いてくれるのはありがたい。でも一日に何度も出てくると、確認は儀式になり、指が勝手に通してしまう。

先週、AI開発のAnthropicが、その儀式そのものを見直す発表をしました。同社の開発向け道具Claude Codeで、8月14日から、一手ごとに人へ確認を求める方式をやめ、AIが自分で進める「auto mode」を初期設定にする、というものです(発表はこちら)。理由に添えられた数字が効きます。1,053人で試したところ、危ない操作を人が止められたのは13.6%。一方、AIが自動で仕分けした場合は89%。人は確認を通しすぎる、という測定結果です。

確認を連打していたのは、うちも同じ

これは開発者向けの道具の話です。つくばで製造や小売をしている会社に、Claude Codeが明日入ってくるわけではない。それでも持ち帰るものがあります。この発表が意味しているのは、AIに何かを任せる時代の合言葉が、「毎回確認させる」から「先に線を引く」へ動きつつある、ということだと考えられます。

なぜなら、確認の窓を出せば安全、というのは半分しか本当ではないからです。窓が多すぎると人は読まなくなる。うちの現場でも同じことが起きています。請求書の一斉送信、在庫データの上書き、顧客リストの書き出し。確認画面は出ているのに、忙しい月末は中身を見ずに通してしまう。Anthropicの数字は、その手の癖を外から測って見せてくれただけです。

では、うちはどうするか。auto modeが線を引いた場所が、そのまま参考になります。同社は、取り返しがつかない操作、壊す操作、自分の手元の外へ出す操作、この三つだけはAIに勝手にやらせず止める設計にした、と説明しています。裏返せば、それ以外の下ごしらえは任せてよい、という割り切りです。AIに仕事を渡すとき、この三つを「止めて人に聞く」欄に置く。残りは任せる。この線引きを一枚の紙にしておくと、道具がAIであろうと人の新人であろうと、そのまま使えます。

先に線を引くのが楽なのは、判断を前倒しにできるからだと考えられます。作業のさなかに窓が出てから考えると、人は面倒がって通す。落ち着いている朝のうちに、止める操作を三つ決めておけば、あとは迷いません。確認を一件ずつ読む労力と、線を一度引く労力。同じ安全を買うなら、後者のほうが続きます。うちのように人手が少ない会社ほど、この差は月末にきいてきます。

試してみるなら

いまお使いのAI(ChatGPTでもGeminiでもかまいません)に、線引きの下書きを作らせるところから始められます。無料の範囲でできます。こう入力してみてください。

「うちは(業種)の会社です。社内でAIに作業を任せるとき、人が止めて確認すべき操作と、任せてよい操作を分けたい。取り返しがつかない・壊す・社外へ出す、の三つを止める基準として、うちの現場で具体的にどんな操作が各分類に当たるか、表で挙げてください」

出てきた表を、そのまま清書しない。自社の言葉に直し、当てはまらない行を消す。この「消す作業」が、実はいちばん頭が整理されます。

つまずきの先回り

この線引きで翌週つまずく点を、先に三つ。

一つ目。auto modeはあくまでClaude Codeという開発道具の設定で、ChatGPTやExcelのCopilotに同じスイッチがあるわけではありません。名前を探しても出てこないので、機能ではなく考え方として持ち帰ってください。

二つ目。AIが出す「三分類の表」は、あくまでたたき台です。送信や入金のように、業種によって重さが違う操作があります。表を鵜呑みにせず、自社で一度もめてから決めるほうが、あとで効きます。

三つ目。線を引いても、人が結局は連打する、という元の問題は残ります。確認の欄を増やしすぎると、また読まなくなる。止めるのは三つの分類に絞り、それ以外は思い切って任せる。窓の数を減らすことが、逆に安全につながります。

明日、紙を一枚

大きな仕組みは要りません。明日の朝、紙を一枚。「止めて人に聞く操作」を三つだけ書く。取り返しがつかないもの、壊すもの、社外へ出すもの。それだけで、AIに任せる話は前に進みます。