AIインシデント
えーあいいんしでんと ／ AI Incident
定義
AIインシデントとは、AIの開発や利用、誤作動が原因となって、人や社会に実際に害が生じた出来事のことです。
OECDは2024年5月の報告書で、AIインシデントを、AIシステムの開発・利用・誤作動が直接または間接に害につながった出来事と整理しました。害の例として、人の健康への害、重要インフラの管理・運営の混乱、人権の侵害や、基本的な権利・労働・知的財産の権利を守るための法令上の義務の違反、財産・地域社会・環境への害を挙げています。まだ害は生じていないものの、害につながるおそれがある出来事は「AIハザード」と呼んで区別しています。企業では、AIの誤った出力が業務や顧客に影響した場合に備え、報告先と対応の手順を決め、記録を残しておくと、原因の調査と再発の防止に役立ちます。
AIインシデントとAIハザード
- AIインシデント開発・利用・誤作動が直接または間接に害につながった出来事
- AIハザードまだ害は生じていないが、害につながるおそれがある出来事
- 害の例健康への害・重要インフラの管理・運営の混乱・人権の侵害や法令上の義務の違反・財産や地域社会、環境への害
- 企業の備え（例）報告先と対応の手順を決め、記録を残しておくと、原因の調査と再発の防止に役立ちます
OECDの2024年5月の報告書による整理です。
確かめた出典：https://www.oecd.org/en/publications/2024/05/defining-ai-incidents-and-related-terms_88d089ec.html