ロバスト性
ろばすとせい ／ Robustness
定義
ロバスト性とは、敵対的な指示や誤入力など予期せぬ入力に対しても、AIが安定した出力を保つ性質のことです。
AISIの「AIセーフティに関する評価観点ガイド」は、ロバスト性を評価観点の一つとし、目指す状態を、LLMシステムが敵対的プロンプト、文字化けしたデータや誤入力といった予期せぬ入力に対して安定した出力を行う状態としています。関連する重要要素として、安全性と透明性が挙げられています。業務でAIを使う場合も、利用者が想定どおりの入力をするとは限りません。導入前の試験で、誤字を含む入力や悪意のある指示を試し、出力がどう変わるかを確かめておくと、運用後のトラブルを減らしやすくなります。
ロバスト性のある状態
予期せぬ入力
敵対的プロンプト・文字化けしたデータ・誤入力
LLMシステム
安定した出力
関連する重要要素は安全性と透明性です（AISI「AIセーフティに関する評価観点ガイド」）。導入前の試験で、誤字を含む入力や悪意のある指示を試しておくと、トラブルを減らしやすくなります。
確かめた出典：https://aisi.go.jp/output/output_framework/guide_to_evaluation_perspective_on_ai_safety/