ハルシネーションとの付き合い方

自社の「ユースケースと効果」の準備度は？10問・約3分で確かめる（無料・登録不要）

生成AIを使い始めると、多くの人が一度は「自信を持って答えているのに、内容が違う」という場面に出会います。そこで「AIは信用できない」と使うのをやめてしまうと、時間を短くできる場面まで手放すことになります。この記事では、ハルシネーションがなぜ起きるのかを押さえたうえで、業務で上手に付き合う考え方を整理します。

ハルシネーションはなぜ起きるのですか？

ハルシネーションとは、生成AIが事実と異なる内容を、もっともらしく出力することです。米国国立標準技術研究所（NIST）が2024年7月に公表した生成AIのリスクの資料では、「自信を持って述べられた、誤った内容の生成」と説明され、俗に「ハルシネーション」と呼ばれていることも書かれています。

同じ資料では、こうした誤りは生成AIの設計から自然に生じるものと説明されています。大規模言語モデル（LLM）は、文の中の次の言葉を予測して文章を作ります。もっともらしい言葉の並びを作ることは得意ですが、その内容が事実かどうかを確かめながら書いているわけではありません。そのため、事実と違う内容や、前後で食い違う内容が出ることがあります。

起きやすいのは、たとえば次のような場面です。

• 人名、会社名、数字、日付など、細かな事実を答えさせるとき
• 法令の条文や制度の条件など、正確さが求められる内容を答えさせるとき
• 出典や参考文献を挙げさせるとき（実在しない資料を挙げることがあります）
• AIが学習した時点より新しい出来事を尋ねるとき

また、質問の前提が誤っている場合に、AIがその前提に合わせて答えてしまうこともあります。たとえば、実在しない制度について「〇〇制度の申請の条件は」と尋ねると、もっともらしい条件を作って答えることがあります。

反対に、文章の言い換え、要約の下書き、アイデアの候補出しなど、「正解が一つに決まらない作業」では、誤りがあっても影響が小さく、役に立つ場面が多くあります。

業務ではどう使い分ければよいですか？

付き合い方の出発点は、「誤りが起きたときに、どのくらい困るか」で使う場面を分けることです。次のように3つに分けると、社内で話し合いやすくなります。

• 確認を軽くしてよい場面： 社内のアイデア出し、文章のたたき台、言い回しの候補など。誤りがあっても、使う人がその場で気づき、直せます
• 根拠を確かめてから使う場面： 社内向けの資料、調べものの整理、議事録など。AIの出力をそのまま使わず、元の資料や記録と照らし合わせます
• 人が原典で確かめる場面： 社外に出す文書、金額・日付・制度に関わる内容、契約や人の評価に関わる判断など。AIの出力は下書きにとどめ、担当者が原典で確かめて決めます

総務省と経済産業省の「AI事業者ガイドライン（第1.2版）」でも、AIを使う事業者に対し、出力の精度やリスクの程度を理解したうえで使うことや、生成物を使う際に人間の判断を介在させることが示されています。どの場面でどこまで人が確かめるかを、あらかじめ決めておくことが大切です。

誤りを減らす工夫には何がありますか？

誤りを完全になくすことは難しくても、減らす工夫はあります。日常の使い方で取り入れやすいものから挙げます。

① 根拠になる資料を渡す

AIに一般的な知識で答えさせるのではなく、社内の規程や資料を渡して、その範囲で答えるように頼みます。社内の資料を検索して回答の根拠にするRAG（検索拡張生成）という仕組みもあります。AI事業者ガイドラインでも、RAGにはハルシネーションの抑制や根拠の透明性の向上が期待されていると書かれています。仕組みは社内の資料をAIで探せるようにする（RAGの基本）で詳しくまとめています。

② 根拠の場所を示させる

「どの資料の、どの部分にもとづく答えか」を示すように頼むと、人が確かめる手間が小さくなります。示された出典が実在するか、書かれている内容と合っているかは、人が開いて確かめます。

③ わからないときは「わからない」と答えるように頼む

推測で埋めずに、資料にないことは「資料に記載がありません」と答えるように頼むと、もっともらしい作り話を減らせます。

④ 確認の手順を決めて共有する

確かめる観点（数字、固有名詞、日付、出典、社外に出してよい内容か）を一覧にしておくと、人によって確認の深さが変わることを防げます。AIの出力の確認チェックリストのひな形も使えます。

⑤ 細かな事実は、AIに答えさせずに調べる

人名、数字、日付、法令の条文などは、AIに答えを出させるより、AIには「何を調べればよいか」「どこを見ればよいか」を整理させ、事実そのものは公的機関の発表や原典で確かめるほうが確実です。AIを「答えを出す道具」ではなく「調べものの段取りを手伝う道具」として使うと、誤りの影響を小さくできます。調べものの進め方はAIを使った調べものの進め方と確かめ方でまとめています。

これらの工夫を組み合わせても、誤りがゼロになるわけではありません。工夫は「人が確かめる手間を小さくするもの」と考えるのが現実的です。

社内に広めるときに気をつけることは何ですか？

ハルシネーションについて社内で伝えるときは、「AIは間違えるから使わない」ではなく、「間違える前提で、確かめ方を決めて使う」という言い方にすると、前向きに受け止められやすくなります。

AI事業者ガイドラインでは、AIの判断をそのまま受け入れてしまう「自動化バイアス」への注意も示されています。使い慣れるほど、出力を確かめずに使ってしまうことがあります。確認の手順を研修や利用ルールに入れ、ときどき見直すとよいです。

また、誤りに気づいたときの共有の場をつくると、どの業務で誤りが起きやすいかが社内にたまっていきます。うまくいった頼み方とあわせて共有すると、使い方の質が少しずつ上がっていきます。人が確かめる役割の考え方は、AIの出力を確かめる人の目もあわせてご覧ください。