説明できるAIの実務

自社の「ガバナンスと法令」の準備度は？10問・約3分で確かめる（無料・登録不要）

「AIの判断は中身が見えないブラックボックスだ」と言われることがあります。たしかに、AIがなぜその答えを出したのかを技術的に細かく説明するのは、難しい場合が少なくありません。しかし、顧客や社員、取引先から「なぜこの結果になったのか」と聞かれたときに、会社として答えられる状態をつくることはできます。この記事では、説明できるAIを実務としてどう整えるかを考えます。

「説明できる」とは、誰に何を説明することですか？

説明可能性という言葉には、二つの意味が含まれています。

一つは、技術的な説明です。AIのモデルが、入力のどの部分を重く見て答えを出したかを示すもので、XAI（説明可能なAI）と呼ばれる技術が研究されています。予測や分類のモデルでは、どの項目が結果に影響したかを示す方法が使われることがあります。

もう一つは、組織としての説明です。AIを何のために使い、どのデータを使い、どう確かめ、誰が最終的に判断したのかを、相手に分かる言葉で示すことです。中小企業の実務で求められるのは、多くの場合こちらです。

内閣府が平成31年に示した「人間中心のAI社会原則（案）」は、原則の一つに「公平性、説明責任、透明性」を挙げ、その内容を、AIの利用における公平性、透明性のある意思決定、説明責任の確保としています。説明の相手によって、伝える中身も変わります。

説明のために、何を記録しておけばよいですか？

総務省・経済産業省の「AI事業者ガイドライン」は、共通の指針の「アカウンタビリティ」の項目で、関係する情報を文書化して一定期間保管し、必要なときに参照できる状態にすることを挙げています。また「透明性」の項目では、技術的に可能な範囲で、AIを利用している事実や活用の範囲、能力と限界などの情報を提供することを挙げています。

実務では、次の4つを記録しておくと、後から説明しやすくなります。

① 目的と範囲

何のためにAIを使うのか、どの業務のどの部分で使うのかを書きます。「問い合わせの一次回答の下書きに使い、送信は担当者が行う」のように、AIが担う範囲と人が担う範囲を分けて書くのがポイントです。

② 使ったデータと設定

AIに参照させた資料、使ったサービスやモデル、指示の文（プロンプト）の主な内容を残します。社内の資料を検索して答える仕組み（RAG）を使う場合は、回答の根拠になった資料を示せるようにしておくと、答えの理由を説明しやすくなります。

③ 確かめ方

AIの出力を、誰が、どの観点で確かめたかを残します。たとえば「金額と日付は原本と照らし合わせる」「顧客に出す文章は上長が確かめる」といった手順です。

④ 判断した人

最終的な判断を誰が行ったかを残します。AIの出力を参考にした場合でも、判断の責任は人にあることをはっきりさせておくと、説明の筋道が通ります。

すべての業務で、同じように記録が必要ですか？

すべての業務で同じ水準の記録を求めると、手間が増えて続きません。業務の重さに応じて、記録の細かさを変えるのが現実的です。

• 社内の下書きや調べもの：利用のルールを守っていれば、細かな記録は不要とする考え方もあります
• 顧客に出す文章や回答：使ったサービスと、確かめた人を残します
• 人の評価や採用、与信、価格の決定など、人や取引に大きく影響する業務：目的、データ、確かめ方、判断した人を詳しく残し、偏りがないかの点検もあわせて行います

人に大きく影響する業務では、AIの結果をそのまま使わず、人が理由を確かめたうえで判断する手順を入れておくことが大切です。偏りの点検の進め方は、別のガイドで紹介しています。

説明できる状態を、どう続ければよいですか？

記録の仕組みは、一度つくって終わりではありません。使うサービスや業務が変わると、記録すべき内容も変わります。半年に一度など、時期を決めて次の点を見直すと、説明できる状態を保てます。

• 記録が実際に残っているか、必要なときに取り出せるか
• AIを使う業務の範囲が、記録に書いた範囲と合っているか
• 顧客や社員から寄せられた質問に、記録をもとに答えられたか

説明できる状態を整えることは、外への説明のためだけではありません。社内で「なぜこの結果になったのか」を振り返れるようになり、AIの使い方を改善する手がかりにもなります。