プロンプトインジェクション
ぷろんぷといんじぇくしょん ／ Prompt Injection
定義
プロンプトインジェクションとは、AIへの入力に細工をした指示を紛れ込ませ、意図しない動作をさせる攻撃のことです。
プロンプトインジェクションには、利用者が直接おかしな指示を入力するものと、ウェブページやメール、文書の中に隠した指示をAIに読み込ませるものがあります。後者は、AIが外部の情報を読んで作業するRAGやAIエージェントで問題になりやすいとされています。完全に防ぐ方法はまだ確立していないため、AIに与える権限を必要な範囲に絞る、重要な操作の前に人が確認する、外部から読み込んだ内容を指示として扱わない設計にする、といった対策を重ねることが現実的です。