エージェントの権限設計
えーじぇんとのけんげんせっけい ／ Agent Permission Design
定義
エージェントの権限設計とは、AIエージェントが扱えるデータや実行できる操作の範囲を、事前に定める設計のことです。
エージェントの権限設計は、AIエージェントに対して、どのシステムやデータにアクセスでき、どんな操作を実行してよいかを事前に決めておくことです。たとえば、閲覧はできても更新や削除はできない、特定のフォルダーだけを扱える、社外への送信は人の承認が必要、といった制限を設けます。必要最小限の権限だけを与えるという考え方が基本で、誤作動やプロンプトインジェクションなどの攻撃を受けたときの被害を小さくできます。あわせて、エージェントが行った操作をログとして残し、後から確かめられるようにしておくと安心です。