AIの偏り（バイアス）の確かめ方：どこで生まれ、どう試し、どう減らすか
この記事の結論
AIの偏りは、学習データだけでなく、指示文（プロンプト）・参照させる資料・連携するサービス・人の使い方からも生まれます。業務ごとに偏りが出ると困る場面を決め、属性だけを入れ替えた入力で出力が変わらないかを試し、人が判断に関わる場面を決めて、定期的に確かめ直すのが実務の基本です。
自社の「ガバナンスと法令」の準備度は？10問・約3分で確かめる（無料・登録不要）
AIの出力に偏りがあると、採用や与信、顧客への対応などで、特定の人や集団に不利な扱いが生じるおそれがあります。偏りの確かめ方は難しく見えますが、AIを使う会社の側でもできることは多くあります。この記事では、AI事業者ガイドラインとAISI（AIセーフティ・インスティテュート）の評価観点ガイドにそって、確かめ方の手順を整理します。
この記事でわかること
- AIの偏りが生まれる場所と、会社が手を入れられる範囲
- 偏りを確かめる具体的な試し方
- 確かめた後の減らし方と、続け方
AIの偏りは、どこで生まれますか？
AI事業者ガイドライン（第1.2版）は、共通の指針の一つに「公平性」を挙げ、不当な偏見や差別をなくすよう努めることを求めています。そのうえで、偏りの発生源を、学習データ、アルゴリズム、プロンプト、推論のときに参照する情報、外部と連携するサービスなど、技術の要素ごとに特定することを示しています。
| 生まれる場所 | 例 | 会社が手を入れられるか |
|---|---|---|
| 学習データ | 過去のデータに、特定の属性に偏った判断が含まれている | 自社で学習させる場合は可能。既製のサービスでは難しい |
| アルゴリズム・モデル | モデルの作りや設定による傾向 | 既製のサービスでは、選び方と設定の範囲 |
| プロンプト（指示文） | 指示文に、属性についての思い込みが入っている | 可能 |
| 参照させる資料 | RAG（社内の資料を探して答える仕組み）の資料が、一部の部署や時期に偏っている | 可能 |
| 人の使い方 | AIの出力をそのまま信じてしまう（自動化バイアス） | 可能 |
既製のAIサービスを使う会社でも、指示文・参照させる資料・人の使い方の3つは、自社で見直せます。AI事業者ガイドラインは、AIを使う側（AI利用者）にも、偏りのないデータを入力し、指示文に含まれる偏りに気をつけて出力を得ること、出力を事業の判断に使った際は関係者に合理的な範囲で情報を提供することを求めています。
偏りが生まれる場所と、会社が手を入れられる範囲
既製のサービスでは手を入れにくい
自社で見直せる
AIを使う側にも、偏りのないデータを入力し、指示文に含まれる偏りに気をつけて出力を得ることが求められています（AI事業者ガイドライン）。
どうやって確かめますか？
AISIの「AIセーフティに関する評価観点ガイド（第1.20版）」は、評価の観点の一つに「公平性と包摂性」を挙げ、出力に有害な偏りが含まれず、個人や集団への不当な差別がない状態を目指すとしています。評価の例として示されている方法を、会社で使いやすい形にすると次のようになります。
① 偏りが出ると困る場面を決める：業務ごとに、性別・年齢・国籍などの属性によって扱いが変わってはいけない場面を書き出します。採用の書類の要約、問い合わせへの回答文、顧客の分類などが代表的です。
② 属性だけを入れ替えて試す：本来は属性に影響されないはずの入力で、名前や性別、年齢だけを入れ替えたものを用意し、出力の内容や評価が変わらないかを比べます。AISIのガイドも、人の属性に影響されないはずの入力に対して、属性による出力の違いが生じないかを確かめる方法を挙げています。
③ 偏見を含む入力への反応を見る：特定の属性への偏見を含む問いかけに、AIが同調せず、適切に断れるかを確かめます。
④ データの偏りを見る：自社で学習させるデータや、RAGで参照させる資料の分布に、特定の属性や部署・時期への偏りがないかを確かめます。AISIのガイドも、学習データ・テストデータ・RAG用のデータの分布の偏りを確かめる観点を挙げています。
⑤ 画像を作る場合：職業などを指定して人物の画像を作らせ、性別や年齢などに偏りがないかを見ます。
⑥ AIエージェントの場合：やり取りの履歴が積み重なることで、特定の視点に偏っていかないか、複数のエージェントが互いに追随して偏りが強まっていないかに注意します。
試す人と記録
AISIのガイドは、客観性のために、対象のシステムの開発や提供に直接関わらない社内外の人による評価も有効としています。社内で行う場合も、使い方を作った担当とは別の人が試すと見落としが減ります。試した入力・出力・判断は、記録に残しておきます（「AIの判断の記録と説明の準備」）。
偏りが見つかったら、どうしますか？
見つかった偏りは、生まれた場所に合わせて手を打ちます。
| 生まれた場所 | 打ち手の例 |
|---|---|
| 指示文 | 属性に触れる表現を外す、判断の基準を具体的に書く |
| 参照させる資料 | 資料の範囲を広げる、古い資料や偏った資料を外す |
| 学習データ | データの集め方を見直す、偏りを補うデータを加える |
| 人の使い方 | 出力を判断に使う前に、人が確かめる場面を決める |
| 既製のサービス | 提供者に報告する、使い方の範囲を狭める、別の手段に切り替える |
AI事業者ガイドラインは、完全には取り除けない偏りについて、人権や文化の観点から許容できるかを評価すること、人の判断を適切なタイミングで介在させること、その際に、人がAIの出力を信じすぎる自動化バイアスへの対策も講じることを示しています。「人が最後に確かめる」と決めるだけでなく、確かめる人が出力に引きずられない工夫（判断の基準を先に決める、根拠を確かめる項目を設ける）まで用意します。
偏りを確かめ、減らし、確かめ直す流れ
偏りを完全に取り除くことは難しいため、許容できるかの評価と、自動化バイアスへの工夫を組み合わせます。
続けるには、どうすればよいですか？
AISIのガイドは、評価を一度きりでなく繰り返し行うことを求めています。次のときに確かめ直すと決めておくと、続けやすくなります。
- AIサービスやモデルの版が変わったとき
- 参照させる資料を大きく入れ替えたとき
- 使う業務や対象の人の範囲を広げたとき
- 定期の時期（年に1回など）
確かめ直しは、最初に作った試し方（属性を入れ替えた入力の組）をそのまま使うと、前回と比べられます。採用など人の評価に関わる使い方は、別の決まりも関わるため「採用選考にAIを使うときの公平性と注意」もあわせてご覧ください。
判断の目安
- 人や取引の判断に使う業務は、偏りを確かめるまで本格的に使わないのが安全です。
- 試し方は、完璧を目指すより、同じ組の入力で毎回比べられることを優先します。
- 偏りの確認は、リスク評価の一項目として位置づけると、ほかの点検と一緒に回せます。
チェックリスト
関連するひな形・ガイド・用語
ガイド
よくあるご質問
Q既製の生成AIサービスを使うだけでも、偏りを確かめる必要はありますか？
Aあります。AI事業者ガイドラインは、AIを使う側にも、偏りのないデータを入力し、指示文に含まれる偏りに気をつけて出力を得ること、出力を事業の判断に使った際は関係者に合理的な範囲で情報を提供することを求めています。サービスの中身は変えられなくても、自社の使い方で偏りが出ないかを試すことはできます。
Q偏りを完全になくすことはできますか？
A完全になくすことは難しいと考えられています。AI事業者ガイドラインは、取り除けない偏りについて、人権や文化の観点から許容できるかを評価することを求めています。減らす工夫と、人が判断に関わる場面を決めることを組み合わせます。
Qどのくらいの頻度で確かめればよいですか？
AAISIの評価観点ガイドは、評価を一度きりでなく繰り返し行うことを求めています。AIの版の更新、参照する資料の入れ替え、使い方の変更があったときと、年に1回などの定期の時期を決めて確かめ直すのが目安です。
この記事に出てくる用語
「ガバナンスと法令」のほかの記事
この柱の解説 →出典
- 経済産業省・総務省「AI事業者ガイドライン（第1.2版）」本編
- 経済産業省「AI事業者ガイドライン（第1.2版）」掲載ページ
- AIセーフティ・インスティテュート「AIセーフティに関する評価観点ガイド（第1.20版）」
最終確認日：2026-11-12