間接プロンプトインジェクション

間接プロンプトインジェクションは、利用者が直接入力するのではなく、AIが読み込むWebページ、メール、文書、ファイルなどに攻撃者が指示を紛れ込ませ、AIにその指示を実行させる攻撃です。文字を背景と同じ色にするなど、人には見えにくい形で仕込まれることもあります。AIエージェントがメールを読んで返信したり、Webを調べて操作したりする使い方では、気づかないうちに情報を外へ送らされるといった被害につながるおそれがあります。対策は、外から読み込んだ内容を指示として扱わない作り、AIに与える権限を最小限にすること、送信や支払いなどの重要な操作の前に人の承認を挟むことです。