社内文書の検索をAIで改善する進め方

自社の「ユースケースと効果」の準備度は？10問・約3分で確かめる（無料・登録不要）

規程、手順書、過去の提案書、技術資料など、社内の文書は年々増えていきます。「どこにあるか分からない」「探すのに時間がかかる」という悩みに対して、AIで検索を改善する取り組みが広がっています。この記事では、すでに生成AIを使い始めた会社が、社内文書の検索に広げるときの進め方を整理します。仕組みの基本は、ガイド「社内の資料をAIで探せるようにする（RAGの基本）」もあわせてご覧ください。

AIの検索は、これまでの検索と何が違いますか？

これまでの社内検索の多くは、入力した言葉を含む文書を探すキーワード検索です。AIの検索には、主に2つの特徴があります。

• 意味の近さで探せる：文章を数値の並び（埋め込み）に変えて比べることで、言い回しが違っても意味の近い文書を見つけやすくなります。
• 答えを文章でまとめられる：検索で見つけた文書をもとに、生成AIが答えを文章にします。これがRAG（検索拡張生成）と呼ばれる方式です。

答えをまとめてくれる便利さの一方で、答えが元の文書と違っていても気づきにくい点には注意が必要です。答えと一緒に根拠の文書へのリンクを示す仕組みにすると、利用者が確かめられます。

何から始めればよいですか？

次の手順で進めると、効果を確かめながら広げられます。

① 困りごとを決める：誰が、どんな場面で、何を探して困っているかを書き出します。例として、新しく入った社員が手続きの規程を探す、営業が過去の提案書を探す、問い合わせの窓口が製品の仕様を探す、などがあります。

② 対象の文書を絞る：最初は、①の困りごとに関わる文書に絞ります。すべての文書を対象にすると、古い版や重複が答えに混じりやすくなります。

③ 文書を整える：最新版を決め、古い版や下書きを対象から外します。文書の題名、作成日、担当部署などの情報（メタデータ）を付けておくと、検索の絞り込みや、答えに根拠を示すときに役立ちます。

④ 評価用の質問集を作る：実際によく聞かれる質問と、正しい答え・根拠の文書を20〜50件ほど用意します。件数は目安で、分野の広さに合わせて決めます。仕組みを変えるたびにこの質問集で確かめると、改善したかどうかが分かります。

⑤ 小さく試す：一部の部署で試し、答えの正しさ、探す時間の変化、利用者の声を記録します。

⑥ 広げて運用する：対象の文書と利用者を少しずつ広げ、文書の更新と誤りの報告の流れを決めます。

文書を整えるときに、何に気をつければよいですか？

AIの検索の答えの質は、元の文書の質に大きく左右されます。次の点を見直します。

• 版の管理：同じ規程の古い版と新しい版が並んでいると、古い内容で答えることがあります。
• 書き方：表や画像の中だけに大事な情報がある文書は、読み取りにくい場合があります。
• 長い文書の分け方：長い文書は、検索のために小さな単位（チャンク）に分けて扱われます。見出しで区切られた文書は、分けたときにも意味が通りやすくなります。
• 担当者：文書ごとに、内容の正しさと更新に責任を持つ担当者を決めます。

文書の置き場所や責任者の決め方は、ガイド「AIに使うデータの整え方」が参考になります。

閲覧の権限は、どう扱えばよいですか？

社内の文書には、全社員が見てよいもの、部署の中だけのもの、役員だけのものがあります。AIの検索でも、もとの閲覧の権限を守ることが前提になります。権限を引き継がないと、本来は見られない人の質問に対して、その文書の内容が答えとして出るおそれがあります。

総務省が2026年3月に公表した「AIのセキュリティ確保のための技術的対策に係るガイドライン」の別添は、RAGで検索するデータへのアクセスを、利用者の権限に応じて制御する対策を挙げています。具体例として、データに部署や役職などのアクセス権限の情報を付けて、利用者と結び付けて制御する方法や、参照するデータの範囲と権限を必要最小限にすることが示されています。あわせて、データの更新時などに、悪意のあるデータが含まれていないかを定期的に確かめることも、リスクを下げる方法として挙げられています。

既製のサービスを使う場合は、社内の文書の保存場所の権限をそのまま使えるか、権限の変更がいつ反映されるかを確かめます。人事や顧客の情報など、個人情報を含む文書を対象にする場合は、利用目的の範囲で扱えるかも確かめます。

仕組みは、どう選べばよいですか？

社内文書の検索をAIで改善する方法には、大きく次の選択肢があります。

• いま使っている文書の保存先や業務ツールに付いたAIの機能を使う：権限の設定を引き継ぎやすく、始めやすい方法です。
• 既製の社内検索のサービスを導入する：複数の保存先をまとめて探せるものがあります。
• 自社でRAGの仕組みを作る：対象の文書や答え方を細かく調整できますが、作る手間と運用の体制が必要です。

選ぶときは、対象の文書がどこにあるか、権限の設定を引き継げるか、答えに根拠を示せるか、入力した内容や文書がサービスの学習に使われないか、利用料の決まり方を確かめます。ツールの選び方は、ガイド「法人向けの生成AIツールの選び方」が参考になります。

運用では、何を決めておけばよいですか？

使い始めた後に答えの質を保つため、次の点を決めておきます。

• 文書の更新の流れ：規程や手順書を改めたときに、検索の対象も新しい版に替わる流れ
• 誤りの報告：答えが違っていたときに、利用者が報告できる窓口
• 定期的な確認：評価用の質問集で、答えの正しさを定期的に確かめる
• 利用の記録：どんな質問が多いか、答えられなかった質問は何かを記録し、文書の追加や書き直しに生かす

総務省と経済産業省の「AI事業者ガイドライン」は、AIを使う事業者に対し、出力の精度やリスクを理解したうえで使い、出力を事業の判断に使う場合は責任をもって判断することを求めています。AIの答えは文書を探す手がかりとして使い、大事な判断は元の文書で確かめることを、利用者にも伝えておきます。

チェックリスト

• 誰が、どんな場面で、何を探して困っているかを書き出している
• 最初の対象の文書を、困りごとに関わるものに絞っている
• 対象の文書の最新版を決め、古い版や下書きを外している
• 文書ごとに、内容の正しさと更新に責任を持つ担当者を決めている
• AIの検索でも、もとの閲覧の権限が守られることを確かめている
• 答えと一緒に、根拠の文書へのリンクが示される
• 評価用の質問集を用意し、仕組みを変えるたびに確かめている
• 誤りの報告の窓口と、文書の更新の流れを決めている
• よくある質問と、答えられなかった質問を記録している