AIセーフティ評価
えーあいせーふてぃひょうか ／ AI Safety Evaluation
定義
AIセーフティ評価とは、AIシステムが、安全性や公平性などAIセーフティの観点で適切かどうかを見定める取り組みのことです。
AIセーフティ・インスティテュート（AISI）の「AIセーフティに関する評価観点ガイド」は、AIセーフティの観点を、人間中心・安全性・公平性・プライバシー保護・セキュリティ確保・透明性の六つの重要要素にもとづく見方としています。2026年7月7日の第1.20版では、有害情報の出力制御やデータ品質などのLLMシステムの10の評価観点に加え、AIエージェント特有の評価観点として「観測と制御」（自律的な挙動、外部環境との相互作用）を示しています。評価の主な実施者としては開発・提供の管理者が考えられるとし、評価は開発・提供・利用の各段階で合理的な範囲、適切な時期に行い、一度だけでなく繰り返し行うものとしています。開発・提供に直接携わらない社内外の専門家による評価も有効とされ、第三者による評価も客観性や信頼性を確保するうえで補完的な役割を果たすとされています。
AIセーフティ評価の考え方
- 何を見るか人間中心・安全性・公平性・プライバシー保護・セキュリティ確保・透明性の六つの重要要素
- 評価観点（第1.20版）LLMシステムの10観点（有害情報の出力制御、データ品質など）＋AIエージェント特有の「観測と制御」
- 誰が行うか主な実施者は開発・提供の管理者。直接携わらない社内外の専門家による評価も有効、第三者の評価は補完的な役割
- いつ行うか各段階で合理的な範囲・適切な時期に、一度だけでなく繰り返し
AISI「AIセーフティに関する評価観点ガイド」による整理です。
確かめた出典：https://aisi.go.jp/output/output_framework/guide_to_evaluation_perspective_on_ai_safety/