--- title: "説明できるAIの実務｜AI-Ready.jp" url: https://www.ai-ready.jp/column/explainability-in-practice/ description: "AIの説明可能性は、仕組みを技術で解き明かすことだけではありません。誰に何を説明するかを決め、使った目的・データ・確かめ方・判断した人を記録しておくと、中小企業でも実務として説明できる状態を整えられます。" updated: 2026-11-12 publisher: "フロレンティナ株式会社" --- [柱：ガバナンスと法令](https://www.ai-ready.jp/about-ai-ready/governance/) # 説明できるAIの実務 執筆：[石田誠](https://www.ai-ready.jp/about/authors/#ishida)更新 2026-11-12制度の最終確認 2026-11-12出典 2件[図解 1点](https://www.ai-ready.jp/zukai/) この記事の結論 AIの説明可能性は、仕組みを技術で解き明かすことだけではありません。誰に何を説明するかを決め、使った目的・データ・確かめ方・判断した人を記録しておくと、中小企業でも実務として「説明できる状態」を整えられます。 自社の「ガバナンスと法令」の準備度は？[10問・約3分で確かめる（無料・登録不要）](https://www.ai-ready.jp/diagnosis/quick/) 「AIの判断は中身が見えないブラックボックスだ」と言われることがあります。たしかに、AIがなぜその答えを出したのかを技術的に細かく説明するのは、難しい場合が少なくありません。しかし、顧客や社員、取引先から「なぜこの結果になったのか」と聞かれたときに、会社として答えられる状態をつくることはできます。この記事では、説明できるAIを実務としてどう整えるかを考えます。 この記事でわかること - 「説明できる」とは、誰に何を説明することか - 説明のために記録しておく4つのこと - 業務の重さに応じた説明の整え方 ## 「説明できる」とは、誰に何を説明することですか？ 説明可能性という言葉には、二つの意味が含まれています。 一つは、技術的な説明です。AIのモデルが、入力のどの部分を重く見て答えを出したかを示すもので、XAI（説明可能なAI）と呼ばれる技術が研究されています。予測や分類のモデルでは、どの項目が結果に影響したかを示す方法が使われることがあります。 もう一つは、組織としての説明です。AIを何のために使い、どのデータを使い、どう確かめ、誰が最終的に判断したのかを、相手に分かる言葉で示すことです。中小企業の実務で求められるのは、多くの場合こちらです。 内閣府が平成31年に示した「人間中心のAI社会原則（案）」は、原則の一つに「公平性、説明責任、透明性」を挙げ、その内容を、AIの利用における公平性、透明性のある意思決定、説明責任の確保としています。説明の相手によって、伝える中身も変わります。 | 説明の相手 | 知りたいことの例 | |---|---| | 顧客 | AIを使っているか、結果にどう影響したか、人に相談できるか | | 社員 | 自分の評価や業務にAIがどう関わっているか | | 取引先・監査 | どんな管理のもとで使っているか、記録はあるか | | 経営 | どの業務で使い、どんなリスクをどう抑えているか | ## 説明のために、何を記録しておけばよいですか？ 総務省・経済産業省の「AI事業者ガイドライン」は、共通の指針の「アカウンタビリティ」の項目で、関係する情報を文書化して一定期間保管し、必要なときに参照できる状態にすることを挙げています。また「透明性」の項目では、技術的に可能な範囲で、AIを利用している事実や活用の範囲、能力と限界などの情報を提供することを挙げています。 実務では、次の4つを記録しておくと、後から説明しやすくなります。 ### ① 目的と範囲 何のためにAIを使うのか、どの業務のどの部分で使うのかを書きます。「問い合わせの一次回答の下書きに使い、送信は担当者が行う」のように、AIが担う範囲と人が担う範囲を分けて書くのがポイントです。 ### ② 使ったデータと設定 AIに参照させた資料、使ったサービスやモデル、指示の文（プロンプト）の主な内容を残します。社内の資料を検索して答える仕組み（RAG）を使う場合は、回答の根拠になった資料を示せるようにしておくと、答えの理由を説明しやすくなります。 ### ③ 確かめ方 AIの出力を、誰が、どの観点で確かめたかを残します。たとえば「金額と日付は原本と照らし合わせる」「顧客に出す文章は上長が確かめる」といった手順です。 ### ④ 判断した人 最終的な判断を誰が行ったかを残します。AIの出力を参考にした場合でも、判断の責任は人にあることをはっきりさせておくと、説明の筋道が通ります。 説明のために記録しておく4つのこと **① 目的と範囲**：何のために、どの業務のどの部分で使うか（AIと人の範囲を分ける） **② 使ったデータと設定**：参照させた資料、サービスやモデル、指示の文の主な内容 **③ 確かめ方**：誰が、どの観点で出力を確かめたか **④ 判断した人**：最終的な判断を誰が行ったか 業務の重さに応じて、記録の細かさを変えるのが現実的です。人や取引に大きく影響する業務ほど詳しく残します。 読みながら、自社の現在地を確かめませんか クイック診断は10問・約3分・登録不要です。7つの柱ごとの目安と、「ガバナンスと法令」を含めて次に取り組むことがわかります。 [無料で診断する](https://www.ai-ready.jp/diagnosis/quick/)[結果の解説（30分・無料）](https://www.ai-ready.jp/consult/review/) ## すべての業務で、同じように記録が必要ですか？ すべての業務で同じ水準の記録を求めると、手間が増えて続きません。業務の重さに応じて、記録の細かさを変えるのが現実的です。 - **社内の下書きや調べもの**：利用のルールを守っていれば、細かな記録は不要とする考え方もあります - **顧客に出す文章や回答**：使ったサービスと、確かめた人を残します - **人の評価や採用、与信、価格の決定など、人や取引に大きく影響する業務**：目的、データ、確かめ方、判断した人を詳しく残し、偏りがないかの点検もあわせて行います 人に大きく影響する業務では、AIの結果をそのまま使わず、人が理由を確かめたうえで判断する手順を入れておくことが大切です。偏りの点検の進め方は、別のガイドで紹介しています。 ## 説明できる状態を、どう続ければよいですか？ 記録の仕組みは、一度つくって終わりではありません。使うサービスや業務が変わると、記録すべき内容も変わります。半年に一度など、時期を決めて次の点を見直すと、説明できる状態を保てます。 - 記録が実際に残っているか、必要なときに取り出せるか - AIを使う業務の範囲が、記録に書いた範囲と合っているか - 顧客や社員から寄せられた質問に、記録をもとに答えられたか 説明できる状態を整えることは、外への説明のためだけではありません。社内で「なぜこの結果になったのか」を振り返れるようになり、AIの使い方を改善する手がかりにもなります。 ## 関連するひな形・ガイド・用語 ひな形 - [AIの利用記録](https://www.ai-ready.jp/templates/ai-use-log/) - [AIの出力の確認チェックリスト](https://www.ai-ready.jp/templates/ai-output-review-checklist/) ガイド - [AIの判断の記録と説明の準備：何を残し、誰にどう説明するか](https://www.ai-ready.jp/guide/ai-records-and-explanation/) - [AIを使っていることの開示と表示](https://www.ai-ready.jp/guide/ai-transparency-disclosure/) - [AIの偏り（バイアス）の確かめ方：どこで生まれ、どう試し、どう減らすか](https://www.ai-ready.jp/guide/ai-bias-check/) - [採用選考にAIを使うときの公平性と注意](https://www.ai-ready.jp/guide/ai-in-hiring-fairness/) コラム - [AIの出力を確かめる人の目：どこで、誰が、何を見るか](https://www.ai-ready.jp/column/human-review-of-ai-output/) - [AIの利用と顧客の信頼](https://www.ai-ready.jp/column/ai-and-customer-trust/) 用語 - [説明可能性（XAI）](https://www.ai-ready.jp/glossary/explainable-ai/) ## よくあるご質問 Q生成AIの答えの理由を、技術的に説明することはできますか？ A大規模言語モデルが特定の答えを出した理由を、細かく説明するのは難しい場合が多くあります。そのため実務では、どの情報をもとに答えたか（参照した資料）、人がどう確かめたか、誰が最終的に判断したかを示すことで、説明できる状態を整えます。 Q記録は、どのくらいの期間残せばよいですか？ A業務の内容や関係する法令、社内の文書の保存の決まりによって変わります。人の評価や顧客との契約に関わる業務など、後から説明を求められる可能性がある業務は、その業務の記録と同じ期間を目安に決めると考えやすくなります。 ## この記事に出てくる用語 - [説明可能性（XAI）](https://www.ai-ready.jp/glossary/explainable-ai/) - [モデル](https://www.ai-ready.jp/glossary/model/) - [分類（機械学習）](https://www.ai-ready.jp/glossary/classification/) - [人間中心のAI社会原則](https://www.ai-ready.jp/glossary/human-centric-ai-principles/) - [公平性](https://www.ai-ready.jp/glossary/fairness/) - [AI事業者ガイドライン](https://www.ai-ready.jp/glossary/ai-guidelines-for-business/) - [アカウンタビリティ（説明責任）](https://www.ai-ready.jp/glossary/accountability/) - [プロンプト](https://www.ai-ready.jp/glossary/prompt/) - [RAG（検索拡張生成）](https://www.ai-ready.jp/glossary/rag/) - [生成AI](https://www.ai-ready.jp/glossary/generative-ai/) - [大規模言語モデル（LLM）](https://www.ai-ready.jp/glossary/llm/) ## 「ガバナンスと法令」のほかの記事 [この柱の解説 →](https://www.ai-ready.jp/about-ai-ready/governance/) [ガバナンスと法令AISIの公開資料の使い方：AIを使う会社が読みどころを選ぶには石田誠2026-11-12](https://www.ai-ready.jp/column/using-aisi-resources/)[ガバナンスと法令AIで作ったコンテンツの表示：誰に、何を、どう伝えるか石田誠2026-11-12](https://www.ai-ready.jp/column/labeling-ai-content/)[ガバナンスと法令AIと著作権をめぐる論点の整理石田誠2026-11-12](https://www.ai-ready.jp/column/ai-copyright-issues/) ## 出典 1. [総務省・経済産業省「AI事業者ガイドライン（第1.2版）」](https://www.soumu.go.jp/main_content/001064299.pdf) 2. [内閣府「AI戦略（有識者提案）及び人間中心のAI社会原則（案）について」（平成31年3月）](https://www8.cao.go.jp/cstp/tougosenryaku/4kai/siryo1-1.pdf) 最終確認日：2026-11-12 ## 次の一歩 [測るAI-Ready診断（無料）いまの準備状況を、7つの柱で確かめられます。](https://www.ai-ready.jp/diagnosis/) [相談する結果の解説（30分・無料）診断の結果をもとに、オンラインでご説明します。](https://www.ai-ready.jp/consult/review/) [窓口ご相談のお申し込み経営・M&A・事業承継・上場・バリューアップはフロレンティナ、AIの導入・開発・データ・セキュリティ・研修はアメリア・テクノロジーがお受けします。](https://www.ai-ready.jp/consult/apply/) 目次 1. 「説明できる」とは、誰に何を説明することですか？ 2. 説明のために、何を記録しておけばよいですか？ 3. すべての業務で、同じように記録が必要ですか？ 4. 説明できる状態を、どう続ければよいですか？ 5. よくあるご質問 この記事が扱う柱 主に「ガバナンスと法令」 [ガバナンスと法令の解説](https://www.ai-ready.jp/about-ai-ready/governance/) 自社の準備度を確かめる 10問・約3分・登録不要。7つの柱ごとの目安がわかります。 [無料で診断する](https://www.ai-ready.jp/diagnosis/quick/) --- 出典：フロレンティナ株式会社「説明できるAIの実務｜AI-Ready.jp」 https://www.ai-ready.jp/column/explainability-in-practice/