レッドチーミング
れっどちーみんぐ ／ Red Teaming
定義
レッドチーミングとは、攻撃者の立場でシステムを試し、弱点や問題のある振る舞いを見つける取り組みのことです。
レッドチーミングは、もともとセキュリティの分野で、攻撃役のチームが実際の攻撃を想定して守りの弱いところを探す手法です。AIでは、不適切な回答を引き出す入力、情報の持ち出し、偏った出力などを意図的に試し、リリース前やその後に問題を見つけるために使われます。日本のAIセーフティ・インスティテュート（AISI）は、AIのレッドチーミングの進め方をまとめたガイドを公開しています。社内でAIを提供する場合も、想定される悪用のパターンを洗い出して試すことが役立ちます。
確かめた出典：https://aisi.go.jp/output/