AIの判断の記録と説明の準備：何を残し、誰にどう説明するか

自社の「ガバナンスと法令」の準備度は？10問・約3分で確かめる（無料・登録不要）

AIの利用が日常の業務に定着すると、「この判断はなぜこうなったのか」と社内外から聞かれる場面が出てきます。そのときに記録がなければ、原因を調べることも、説明することもできません。この記事では、経済産業省と総務省の「AI事業者ガイドライン」が示す透明性とアカウンタビリティ（説明責任）の考え方にそって、記録の項目と説明の準備を整理します。

なぜ記録と説明の準備が要るのですか？

AI事業者ガイドライン（第1.2版）は、すべての主体に共通する指針として10の項目を挙げ、その中に「透明性」と「アカウンタビリティ」を置いています。

• 透明性：検証できる状態を確保するために、入出力や判断の根拠などの記録（ログ）を残すこと、AIを使っている事実や能力と限界などを、相手の知識に応じて伝えることが示されています。記録の方法や期間は、原因の究明や責任を確かめる必要性を踏まえて決めるとされています。
• アカウンタビリティ：データの出どころや意思決定を後から追える状態（トレーサビリティ）にすること、責任者を明らかにすること、必要に応じて指摘を受け付ける機会を設け、関係する情報を文書にして保管することが示されています。

AIを使う側の会社（AI利用者）に向けても、AIの出力を事業の判断に使った場合は関係者に合理的な範囲で情報を提供すること、個人や集団の評価にAIを使う場合はその旨を知らせ、求めに応じて説明できるよう準備し、問い合わせの窓口を設けることが挙げられています。

一方で、ガイドラインはアルゴリズムやソースコードの全面的な開示までは求めていません。説明の準備とは、仕組みの中身を明かすことではなく、使い方と人の関わり方を示せるようにしておくことと考えると取り組みやすくなります。

何を記録すればよいですか？

判断にAIを使った業務では、次の項目を残しておくと、後から追いかけられます。

AIセーフティ・インスティテュート（AISI）の「AIセーフティに関する評価観点ガイド」も、評価の観点に「説明可能性」と「検証可能性」を挙げています。自社でAIの仕組みを作る場合は、出力の根拠を示せるか、後から確かめられる記録が残るかを、作る段階で設計に入れておくと手戻りが減ります。

記録の濃さは、どう決めますか？

すべての利用を同じ濃さで記録すると、手間も保存の費用もかさみます。業務が人や取引に与える影響の大きさで、記録の濃さを分けます。

保存の期間も区分ごとに決めます。判断に対する問い合わせや異議を受け付ける期間、関係する契約や法令の保存の決まり、社内の文書の保存の規程を踏まえて決め、期限が来たら削除する手順も用意します。データの保存期間の決め方は「データの保存期間と削除のルールの決め方」も参考になります。

記録に個人情報が含まれる場合は、記録そのものの扱いにも注意が要ります。閲覧できる人を絞り、目的と期間を規程に書いておきます。

説明を求められたら、どう応じますか？

説明の準備は、次の手順で整えます。

① 説明する相手を想定する：顧客、取引先、社員、監査や取引先の調査など、誰から何を聞かれそうかを業務ごとに書き出します。

② 説明の型を用意する：「AIを使っていること」「何の判断のどの部分に使ったか」「人がどこで確かめたか」「最終的に誰が決めたか」「問い合わせの先」の5点を、業務ごとに短い文章にしておきます。AIの利用を利用者に知らせる文例は、ひな形の「AIの利用についてのお知らせの文例」が使えます。

③ 窓口と期限を決める：問い合わせを受ける部署、記録を確かめる担当、回答までの目安の日数を決めます。

④ 異議への対応を決める：判断に納得できないという申し出があったとき、人が改めて確かめる手順を用意します。

⑤ 年に1回は試す：過去の判断を1件選び、記録から説明の文章を作れるかを確かめます。内部の点検（「AIの内部点検・監査の進め方」）にあわせて行うと効率的です。

EUの個人に関わる判断では

EUの個人の個人データを扱う場合、GDPR（EUの一般データ保護規則）の決まりも関わります。EUの公式の案内は、個人には、法的な効果や同様に重大な影響を持つ、自動の処理だけにもとづく決定の対象とされない権利があり、例外として認められる場合も、本人に知らせ、人による見直しを可能にし、異議を申し立てられるようにすることを求めています。詳しくは「GDPRの基本とAI活用の注意」をご覧ください。

判断の目安

• 記録は「後から1件を説明できるか」で足りているかを判断します。項目を増やすことより、重い業務で抜けがないことを優先します。
• AIの版の記録は見落とされがちです。サービスの更新の通知を受けたら、記録の欄に反映します。
• 記録と説明の準備ができていない業務は、AIに最終の判断を任せず、人が決める形にとどめます。

チェックリスト

• AIを判断に使う業務の一覧があり、記録の濃さの区分を決めた
• 重い業務では、入力・出力・版・人の確認・最終判断を記録している
• 記録の保存期間と削除の手順を決めた
• 記録に個人情報が含まれる場合、閲覧できる人を絞った
• 業務ごとに、説明の型（5点）を用意した
• 問い合わせの窓口と、回答までの目安を決めた
• 判断への異議を受けたとき、人が改めて確かめる手順がある
• 年に1回、過去の判断を記録から説明できるか試している