社内の資料をAIで探せるようにする(RAGの基本)

執筆:石田 誠更新 2026-10-25制度の最終確認 2026-10-25出典 2件

この記事の結論

RAG(検索拡張生成)は、AIが社内の資料を探してから答える仕組みで、成果を左右するのはAIそのものより「資料の整理・権限・更新」の準備です。

社内の規程やマニュアルを、話しかけるように探せるようにしたいというご相談は多くあります。この記事では、RAGの仕組みを平易に説明し、準備と作り方の選択肢、注意点を整理します。

この記事でわかること

  • RAGの仕組みと、向いている用途
  • 導入の前に整える準備(資料の整理・権限・更新)
  • 作り方の選択肢と、精度を上げる工夫、注意点

RAGとは何ですか?

RAGは「Retrieval-Augmented Generation」の略で、日本語では「検索拡張生成」と呼ばれます。AIが答えを作る前に、関係する資料を探し、その内容をもとに答える仕組みです。

生成AIは、学習した大量の文章をもとに答えを作ります。ただし、社内の規程や最新の業務手順のような、外に公開されていない情報は知りません。知らないことを聞かれると、もっともらしい誤り(ハルシネーション)を答えることもあります。

RAGでは、次の流れで答えを作ります。

  1. 質問を受け取る:社員が「出張の日当はいくらですか?」と尋ねます。
  2. 資料を探す:あらかじめ登録した社内の資料の中から、質問に関係する部分を探します。
  3. 資料を添えて答えを作る:見つけた部分をAIに渡し、「この資料にもとづいて答えてください」と指示します。
  4. 根拠を示す:答えとあわせて、参照した資料の名前や場所を示します。

たとえるなら、物知りな新人に、答える前に社内の書棚から該当する資料を持ってこさせるような仕組みです。書棚が整っていれば正しい資料にたどりつき、散らかっていれば違う資料を持ってきてしまいます。

資料はどうやって探すのですか?

資料を探す方法には、大きく2つあります。

  • 言葉で探す方法:質問に含まれる言葉と同じ言葉を含む資料を探します。社内の検索機能と同じ考え方です。
  • 意味で探す方法:文章の意味を数値の並び(埋め込み、エンベディング)に置きかえ、意味の近い資料を探します。言い回しが違っても見つけやすいのが特徴です。この数値を保存して探す仕組みを、ベクトルデータベースと呼びます。

実際には、2つの方法を組み合わせて使うことも多くあります。

どんな用途に向いていますか?

RAGが向いているのは、答えの根拠が社内の資料の中にあり、その資料が文章でまとまっている場面です。

  • 社内規程・制度の問い合わせ:就業規則、経費の精算、各種申請の手順など
  • 業務マニュアルの参照:システムの操作方法、作業の手順、品質の基準など
  • 過去の資料の活用:提案書、報告書、議事録から、似た事例を探す
  • 顧客対応の支援:製品の仕様や、よくある質問の回答をもとにした下書き
  • 技術資料の検索:設計書、保守の記録、トラブルの対応履歴など

一方で、次のような用途は工夫が必要です。

  • 数値の集計や計算:売上の合計など、表のデータを正確に計算する作業は、RAGより集計の仕組みが向いています。
  • 資料にない判断:経営判断や法的な判断など、資料の範囲を超える問いは、人が判断します。
  • 資料が少ない、またはまとまっていない業務:まず資料を作る、整えるところから始めます。

導入の前に何を準備すればよいですか?

① 資料を整理する

RAGの精度は、登録する資料の状態に大きく左右されます。

  • 対象を決める:最初は、問い合わせが多く内容が安定している資料に絞ります。
  • 重複と古い版を除く:同じ規程の旧版と新版が混ざっていると、古い内容で答えてしまうことがあります。
  • 形式を確かめる:画像だけの資料(スキャンしたPDFなど)は、文字として読み取れる形にしておきます。
  • 資料に情報を付ける:作成日、改定日、担当部署、対象者などの情報(メタデータ)を付けると、探す精度が上がり、根拠も示しやすくなります。

② 権限を決める

社内の資料には、全員が見られるものと、一部の人だけが見られるものがあります。

  • 元の資料の閲覧権限を、AIの答えにも引き継げるかを確かめます。
  • 人事評価、給与、顧客の個人情報など、機密性の高い資料は、最初は対象から外す方法もあります。
  • 個人情報を扱う場合は、個人情報保護委員会が示す生成AIサービスの利用に関する注意点(利用目的の範囲内か、入力した情報が学習に使われないか、など)を確かめます。

③ 更新の方法を決める

資料は改定されていきます。

  • 資料を改定したときに、AIが参照する内容も更新される仕組みにします(自動で取り込む、定期的に入れ替える、など)。
  • 更新の担当者と頻度を決めておきます。
  • 廃止した資料を、参照の対象から外す手順も決めます。

作り方にはどんな選択肢がありますか?

RAGの作り方は、大きく3つに分けられます。特定の製品を選ぶ前に、自社の条件に合う方式を考えます。

方式内容向いている場面確かめること
既製の機能を使うすでに使っている業務ソフトや生成AIサービスに付いている「資料を参照して答える」機能を使うまず小さく試したい、資料がそのソフトの中にある対象にできる資料の範囲、権限の引き継ぎ、データの扱い
SaaSを使う社内文書の検索・回答に特化したクラウドサービスを契約する複数の場所にある資料をまとめたい、管理画面がほしい契約の条件、データの保存場所、学習への利用の有無、費用
自社で構築する生成AIのモデル、検索の仕組み、画面を組み合わせて作る独自の業務システムと深くつなぎたい、細かく調整したい開発と運用の体制、セキュリティ、保守の費用

最初は既製の機能やSaaSで効果を確かめ、必要に応じて自社構築を検討する、という順番もあります。どの方式でも、小さな範囲でPoCを行い、効果と課題を確かめてから広げると判断しやすくなります(「PoCの進め方」参照)。

精度を上げるにはどうすればよいですか?

  • 資料を適切な長さに分ける:長い資料は、見出しや段落ごとに分けて登録すると、関係する部分を探しやすくなります。
  • 見出しと用語をそろえる:同じ意味の言葉が部署ごとに違うと、探しにくくなります。社内の用語の一覧を作るのも有効です。
  • よくある質問を用意する:問い合わせの多い質問と答えを、資料として加えます。
  • 答え方を指示する:「資料にない場合は『資料にありません』と答える」「根拠の資料名を示す」など、AIへの指示を決めておきます。
  • 評価用の質問を用意する:正しい答えがわかっている質問を20〜50問ほど用意し、設定を変えるたびに答えを確かめます。
  • 利用者の声を集める:答えに「役に立った・立たなかった」を付けてもらい、改善に使います。

注意する点はありますか?

権限の扱い

本来見られない資料の内容が答えに含まれると、情報漏えいにつながります。導入前に、権限の異なる複数のアカウントで試して確かめます。

誤った答え

RAGでも、誤った資料を参照したり、資料の内容を取り違えたりすることがあります。根拠の資料を示す設定にし、重要な判断では人が元の資料を確かめる手順を残しておきます。総務省・経済産業省の「AI事業者ガイドライン」も、AIを業務で使う事業者が出力の誤りに目を配ることを求めています。

古い資料

資料の更新が止まると、古い制度や手順で答えるようになります。資料の改定日を答えに示す、定期的に対象の資料を見直す、といった運用で防ぎます。

利用の記録

誰がどんな質問をし、どの資料が参照されたかの記録(ログ)を残すと、問題が起きたときの確認と、改善に役立ちます。記録の保存期間や閲覧できる人も決めておきます。

チェックリスト

関連するひな形・ガイド・用語

よくあるご質問

QRAGとファインチューニングはどう違いますか?

ARAGは、答えるたびに社内の資料を探して参照する仕組みです。ファインチューニングは、AIのモデルそのものに追加で学習させる方法です。資料が頻繁に更新される場合や、根拠を示したい場合は、RAGのほうが扱いやすいことが多くあります。

QRAGを使えば、AIは間違えなくなりますか?

A根拠となる資料を示せるため誤りは減らしやすくなりますが、なくなるわけではありません。資料の探し方を誤ったり、資料そのものが古かったりすると、誤った答えになることがあります。重要な判断では、示された資料を人が確かめる手順を残しておきます。

Qどの資料から始めればよいですか?

A社内で問い合わせが多く、内容が比較的安定している資料から始めると効果を確かめやすくなります。たとえば、社内規程、業務マニュアル、よくある質問の回答集などです。個人情報や機密性の高い資料は、権限の設計が整ってから対象に加えます。

Q社員ごとに見られる資料が違う場合も使えますか?

A使えますが、AIが答えるときにも、元の資料の閲覧権限を引き継ぐ設計が必要です。権限を引き継げない仕組みでは、本来見られない資料の内容が答えに含まれるおそれがあるため、導入前に確かめます。

この記事に出てくる用語

次の一歩

出典

  1. 生成AIサービスの利用に関する注意喚起等について(個人情報保護委員会、2023年6月2日)
  2. AI事業者ガイドライン(第1.2版)掲載ページ(総務省)

最終確認日:2026-10-25