--- title: "ハルシネーションとの付き合い方｜AI-Ready.jp" url: https://www.ai-ready.jp/column/living-with-hallucination/ description: "生成AIがもっともらしい誤りを出すハルシネーションは、仕組みから見てなくすことが難しい性質です。業務では、誤りが起きる前提で使う場面を選び、根拠を確かめる手順と人の確認を組み込むと、安心して使えます。" updated: 2026-11-12 publisher: "フロレンティナ株式会社" --- [柱：ユースケースと効果](https://www.ai-ready.jp/about-ai-ready/use-cases/) # ハルシネーションとの付き合い方 執筆：[桐谷彰人](https://www.ai-ready.jp/about/authors/#kiritani)更新 2026-11-12最終確認 2026-11-12出典 2件[図解 1点](https://www.ai-ready.jp/zukai/) この記事の結論 生成AIがもっともらしい誤りを出す「ハルシネーション」は、文章を作る仕組みから生じるため、なくすことは難しい性質です。業務では、誤りが起きる前提で使う場面を選び、根拠を確かめる手順と人の確認を組み込むと、安心して使い続けられます。 自社の「ユースケースと効果」の準備度は？[10問・約3分で確かめる（無料・登録不要）](https://www.ai-ready.jp/diagnosis/quick/) 生成AIを使い始めると、多くの人が一度は「自信を持って答えているのに、内容が違う」という場面に出会います。そこで「AIは信用できない」と使うのをやめてしまうと、時間を短くできる場面まで手放すことになります。この記事では、ハルシネーションがなぜ起きるのかを押さえたうえで、業務で上手に付き合う考え方を整理します。 この記事でわかること - ハルシネーションが起きる理由と、起きやすい場面 - 誤りの影響に合わせた、使う場面の分け方 - 根拠を確かめる手順と、人が確かめる場面の決め方 ## ハルシネーションはなぜ起きるのですか？ ハルシネーションとは、生成AIが事実と異なる内容を、もっともらしく出力することです。米国国立標準技術研究所（NIST）が2024年7月に公表した生成AIのリスクの資料では、「自信を持って述べられた、誤った内容の生成」と説明され、俗に「ハルシネーション」と呼ばれていることも書かれています。 同じ資料では、こうした誤りは生成AIの設計から自然に生じるものと説明されています。大規模言語モデル（LLM）は、文の中の次の言葉を予測して文章を作ります。もっともらしい言葉の並びを作ることは得意ですが、その内容が事実かどうかを確かめながら書いているわけではありません。そのため、事実と違う内容や、前後で食い違う内容が出ることがあります。 起きやすいのは、たとえば次のような場面です。 - 人名、会社名、数字、日付など、細かな事実を答えさせるとき - 法令の条文や制度の条件など、正確さが求められる内容を答えさせるとき - 出典や参考文献を挙げさせるとき（実在しない資料を挙げることがあります） - AIが学習した時点より新しい出来事を尋ねるとき また、質問の前提が誤っている場合に、AIがその前提に合わせて答えてしまうこともあります。たとえば、実在しない制度について「〇〇制度の申請の条件は」と尋ねると、もっともらしい条件を作って答えることがあります。 反対に、文章の言い換え、要約の下書き、アイデアの候補出しなど、「正解が一つに決まらない作業」では、誤りがあっても影響が小さく、役に立つ場面が多くあります。 ## 業務ではどう使い分ければよいですか？ 付き合い方の出発点は、「誤りが起きたときに、どのくらい困るか」で使う場面を分けることです。次のように3つに分けると、社内で話し合いやすくなります。 - **確認を軽くしてよい場面：** 社内のアイデア出し、文章のたたき台、言い回しの候補など。誤りがあっても、使う人がその場で気づき、直せます - **根拠を確かめてから使う場面：** 社内向けの資料、調べものの整理、議事録など。AIの出力をそのまま使わず、元の資料や記録と照らし合わせます - **人が原典で確かめる場面：** 社外に出す文書、金額・日付・制度に関わる内容、契約や人の評価に関わる判断など。AIの出力は下書きにとどめ、担当者が原典で確かめて決めます 総務省と経済産業省の「AI事業者ガイドライン（第1.2版）」でも、AIを使う事業者に対し、出力の精度やリスクの程度を理解したうえで使うことや、生成物を使う際に人間の判断を介在させることが示されています。どの場面でどこまで人が確かめるかを、あらかじめ決めておくことが大切です。 誤りが起きたときの影響で、使う場面を分けます - **確認を軽くしてよい場面**：社内のアイデア出し、文章のたたき台、言い回しの候補など。使う人がその場で気づき、直せます - **根拠を確かめてから使う場面**：社内向けの資料、調べものの整理、議事録など。元の資料や記録と照らし合わせます - **人が原典で確かめる場面**：社外に出す文書、金額・日付・制度、契約や人の評価に関わる判断など。AIの出力は**下書きにとどめ**、担当者が原典で確かめて決めます どの場面でどこまで人が確かめるかを、あらかじめ決めておきます。 読みながら、自社の現在地を確かめませんか クイック診断は10問・約3分・登録不要です。7つの柱ごとの目安と、「ユースケースと効果」を含めて次に取り組むことがわかります。 [無料で診断する](https://www.ai-ready.jp/diagnosis/quick/)[結果の解説（30分・無料）](https://www.ai-ready.jp/consult/review/) ## 誤りを減らす工夫には何がありますか？ 誤りを完全になくすことは難しくても、減らす工夫はあります。日常の使い方で取り入れやすいものから挙げます。 ### ① 根拠になる資料を渡す AIに一般的な知識で答えさせるのではなく、社内の規程や資料を渡して、その範囲で答えるように頼みます。社内の資料を検索して回答の根拠にするRAG（検索拡張生成）という仕組みもあります。AI事業者ガイドラインでも、RAGにはハルシネーションの抑制や根拠の透明性の向上が期待されていると書かれています。仕組みは[社内の資料をAIで探せるようにする（RAGの基本）](https://www.ai-ready.jp/guide/rag-basics/)で詳しくまとめています。 ### ② 根拠の場所を示させる 「どの資料の、どの部分にもとづく答えか」を示すように頼むと、人が確かめる手間が小さくなります。示された出典が実在するか、書かれている内容と合っているかは、人が開いて確かめます。 ### ③ わからないときは「わからない」と答えるように頼む 推測で埋めずに、資料にないことは「資料に記載がありません」と答えるように頼むと、もっともらしい作り話を減らせます。 ### ④ 確認の手順を決めて共有する 確かめる観点（数字、固有名詞、日付、出典、社外に出してよい内容か）を一覧にしておくと、人によって確認の深さが変わることを防げます。[AIの出力の確認チェックリスト](https://www.ai-ready.jp/templates/ai-output-review-checklist/)のひな形も使えます。 ### ⑤ 細かな事実は、AIに答えさせずに調べる 人名、数字、日付、法令の条文などは、AIに答えを出させるより、AIには「何を調べればよいか」「どこを見ればよいか」を整理させ、事実そのものは公的機関の発表や原典で確かめるほうが確実です。AIを「答えを出す道具」ではなく「調べものの段取りを手伝う道具」として使うと、誤りの影響を小さくできます。調べものの進め方は[AIを使った調べものの進め方と確かめ方](https://www.ai-ready.jp/guide/ai-for-research/)でまとめています。 これらの工夫を組み合わせても、誤りがゼロになるわけではありません。工夫は「人が確かめる手間を小さくするもの」と考えるのが現実的です。 ## 社内に広めるときに気をつけることは何ですか？ ハルシネーションについて社内で伝えるときは、「AIは間違えるから使わない」ではなく、「間違える前提で、確かめ方を決めて使う」という言い方にすると、前向きに受け止められやすくなります。 AI事業者ガイドラインでは、AIの判断をそのまま受け入れてしまう「自動化バイアス」への注意も示されています。使い慣れるほど、出力を確かめずに使ってしまうことがあります。確認の手順を研修や利用ルールに入れ、ときどき見直すとよいです。 また、誤りに気づいたときの共有の場をつくると、どの業務で誤りが起きやすいかが社内にたまっていきます。うまくいった頼み方とあわせて共有すると、使い方の質が少しずつ上がっていきます。人が確かめる役割の考え方は、[AIの出力を確かめる人の目](https://www.ai-ready.jp/column/human-review-of-ai-output/)もあわせてご覧ください。 ## 関連するひな形・ガイド・用語 ひな形 - [AIの出力の確認チェックリスト](https://www.ai-ready.jp/templates/ai-output-review-checklist/) ガイド - [社内の資料をAIで探せるようにする（RAGの基本）](https://www.ai-ready.jp/guide/rag-basics/) - [AIを使った調べものの進め方と確かめ方](https://www.ai-ready.jp/guide/ai-for-research/) - [生成AIのはじめ方：会社として最初の30日でやること](https://www.ai-ready.jp/guide/getting-started-with-generative-ai/) コラム - [AIの出力を確かめる人の目：どこで、誰が、何を見るか](https://www.ai-ready.jp/column/human-review-of-ai-output/) - [いまのAIにできること、できないこと「予測」と「説明」の違いから考える使い方](https://www.ai-ready.jp/column/limits-and-possibilities-of-ai/) 用語 - [ハルシネーション](https://www.ai-ready.jp/glossary/hallucination/) - [グラウンディング](https://www.ai-ready.jp/glossary/grounding/) - [RAG（検索拡張生成）](https://www.ai-ready.jp/glossary/rag/) - [ヒューマン・イン・ザ・ループ](https://www.ai-ready.jp/glossary/human-in-the-loop/) ## よくあるご質問 Qハルシネーションは、新しいモデルを使えばなくなりますか？ A減らす工夫は進んでいますが、なくなると考えないほうが安全です。米国国立標準技術研究所（NIST）の資料では、次の言葉を予測して文を作る生成AIの設計から自然に生じるものと説明されています。新しいモデルでも、確かめる手順は残しておくと安心です。 QRAG（検索拡張生成）を使えば、確認は要りませんか？ ARAGは、社内の資料などを根拠として回答させる仕組みで、誤りを抑える効果が期待されています。ただし、参照した資料が古い場合や、AIが資料を読み違える場合もあります。根拠の資料を表示させ、人がその資料を確かめる手順は残しておくとよいです。 Qどこまで人が確かめればよいですか？ A誤りが起きたときの影響で分けると決めやすくなります。社外に出す文書、金額・日付・制度に関わる内容、人の評価に関わる判断は、人が原典で確かめます。社内のアイデア出しやたたき台は、確認を軽くしても影響が小さい場面です。 ## この記事に出てくる用語 - [生成AI](https://www.ai-ready.jp/glossary/generative-ai/) - [ハルシネーション](https://www.ai-ready.jp/glossary/hallucination/) - [大規模言語モデル（LLM）](https://www.ai-ready.jp/glossary/llm/) - [モデル](https://www.ai-ready.jp/glossary/model/) - [要約](https://www.ai-ready.jp/glossary/summarization/) - [AI事業者ガイドライン](https://www.ai-ready.jp/glossary/ai-guidelines-for-business/) - [RAG（検索拡張生成）](https://www.ai-ready.jp/glossary/rag/) - [バイアス](https://www.ai-ready.jp/glossary/bias/) - [グラウンディング](https://www.ai-ready.jp/glossary/grounding/) - [ヒューマン・イン・ザ・ループ](https://www.ai-ready.jp/glossary/human-in-the-loop/) ## 「ユースケースと効果」のほかの記事 [この柱の解説 →](https://www.ai-ready.jp/about-ai-ready/use-cases/) [ユースケースと効果AIで変わる法人営業経験とデータを組み合わせる営業の進め方嵐保憲2026-10-25](https://www.ai-ready.jp/column/ai-for-b2b-sales/)[ユースケースと効果AIについてのよくある思い込み「正しく答える」「入れれば効果が出る」を見直す桐谷彰人2026-11-12](https://www.ai-ready.jp/column/ai-common-misconceptions/)[ユースケースと効果AI検索の広がりと、Webサイトの見直し嵐保憲2026-11-12](https://www.ai-ready.jp/column/ai-search-and-websites/) ## 出典 1. [NIST AI 600-1 Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile（2024年7月）](https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf) 2. [総務省・経済産業省 AI事業者ガイドライン（第1.2版）本編（令和8年3月31日、PDF）](https://www.soumu.go.jp/main_content/001099163.pdf) 最終確認日：2026-11-12 ## 次の一歩 [測るAI-Ready診断（無料）いまの準備状況を、7つの柱で確かめられます。](https://www.ai-ready.jp/diagnosis/) [相談する結果の解説（30分・無料）診断の結果をもとに、オンラインでご説明します。](https://www.ai-ready.jp/consult/review/) [窓口ご相談のお申し込み経営・M&A・事業承継・上場・バリューアップはフロレンティナ、AIの導入・開発・データ・セキュリティ・研修はアメリア・テクノロジーがお受けします。](https://www.ai-ready.jp/consult/apply/) 目次 1. ハルシネーションはなぜ起きるのですか？ 2. 業務ではどう使い分ければよいですか？ 3. 誤りを減らす工夫には何がありますか？ 4. 社内に広めるときに気をつけることは何ですか？ 5. よくあるご質問 この記事が扱う柱 主に「ユースケースと効果」 [ユースケースと効果の解説](https://www.ai-ready.jp/about-ai-ready/use-cases/) 自社の準備度を確かめる 10問・約3分・登録不要。7つの柱ごとの目安がわかります。 [無料で診断する](https://www.ai-ready.jp/diagnosis/quick/) --- 出典：フロレンティナ株式会社「ハルシネーションとの付き合い方｜AI-Ready.jp」 https://www.ai-ready.jp/column/living-with-hallucination/