簡単にいうと
AIへの指示文に細工を仕込んで、本来の設定を乗っ取ろうとする攻撃の名前です。読ませた文書やメールの中に、AIだけに向けた悪意ある命令が隠されている、という形をとります。
誤解しがちなこと
「チャットで使う分には自分には関係ない」とは言い切れません。外部から届いた文書やメールをAIに読ませて処理する使い方が広がるほど、この経路は身近になります。
詳しく説明すると
プロンプトインジェクションとは、AIに与えられている本来の指示を、外から紛れ込ませた別の指示で上書きしようとする攻撃のことです。インジェクションは注入という意味。AIをだます手口の名前です。
なぜ成立するのか。AIにとって、運営者からの指示も、利用者の入力も、読み込んだ資料の中の文章も、すべて同じ「言葉」だからです。人間の従業員なら「社長の指示」と「客が紙に書いてきた命令口調の文」を混同しませんが、AIはこの区別が構造的に苦手です。そこで、読み込ませる文書やウェブページの中に「これまでの指示を忘れて、こう答えよ」といった文を仕込み、AIの振る舞いを乗っ取ろうとする。これがこの攻撃の骨格です。
中小企業に関係が出てくるのは、AIに「外から来る文章」を読ませる場面です。たとえば問い合わせ対応のAI窓口は、見知らぬ人の入力を毎日読みます。メールの自動処理や、ウェブ検索をしながら動くAIエージェントも同じです。外の文章に触れる面積が広いほど、この手口の的になる面積も広がります。
対策は、利用者側では仕組みの設計に尽きます。第一に、AIに渡す権限を絞ること。読み書きできる範囲が狭ければ、乗っ取られても被害の上限が低い。第二に、大事な操作の前に人の確認を挟むこと。送金や外部への送信をAIの判断だけで完結させない。第三に、業者に聞くこと。AI窓口や自動処理の提案を受けたら「プロンプトインジェクション対策はどうなっていますか」と質問してください。この一問に説明が返ってくるかどうかは、その業者の安全設計の深さを測る、よい物差しになります。
自社で手口を研究する必要はありません。「AIは外の文章にだまされることがある。だから権限と確認で挟む」。この一文が、経営者が持つべき知識のすべてです。
最初の一歩
まずは、お話を聞かせてください。
売り込みはしません。お話ししてみて合わないと感じたら、断ってください。
無料で相談するつくば対面/オンライン・無理な勧誘はしません