ガードレール

ガードレールは、生成AIを業務で使うときに、入力と出力の前後に確認の仕組みを置き、決めた範囲から外れた使われ方を防ぐ考え方です。たとえば、個人情報や機密情報の入力を検知する、業務と関係のない質問を断る、差別的な表現や根拠のない断定を含む回答を止める、AIエージェントが実行できる操作を限るといった仕組みがあります。プロンプトインジェクションへの対策の一つとしても使われます。ただし、仕組みだけですべての問題を防げるとは限りません。社内の利用ルール、ログの確認、人による最終確認と組み合わせ、検知した事例をもとに設定を見直していくと安心です。