RAGとファインチューニングの違いと選び方 「知識を補う」か「振る舞いを整える」か

自社の「基盤とセキュリティ」の準備度は？10問・約3分で確かめる（無料・登録不要）

生成AIを業務に使い込むと、「うちの会社の情報で答えてほしい」「うちの書き方で出してほしい」という要望が出てきます。そのときによく候補に挙がるのが、RAGとファインチューニングです。名前は似た場面で出てきますが、補うものが違います。この記事では、2つの違いと、自社の目的に合う選び方を整理します。

RAGとファインチューニングは、何が違いますか？

OpenAIの開発者向けの案内では、AIの答えを良くする方法を2つの方向に分けて説明しています。一つは「AIが何を知っている必要があるか」を補う方向、もう一つは「AIがどう振る舞う必要があるか」を整える方向です。RAGは前者、ファインチューニングは後者の代表的な方法です。

この案内では、試験勉強にたとえた説明もあります。RAGは、教科書を手元に置いて、調べながら答えるようなものです。ファインチューニングは、授業で何度も例を見て、答え方を身につけるようなものです。

RAG：答えるたびに資料を探して渡す

RAGでは、質問が来るたびに、社内の資料の中から関係する部分を探し、その内容をAIへの指示に添えて答えさせます。AIそのものは作り変えません。

Google Cloudのブログ記事（2024年5月16日）では、RAGが向く場面として、答えにいつも根拠の資料を示したい場合、AIが学習した知識ではなく自社のデータにもとづいて答えさせ誤りを減らしたい場合、利用者ごとに見られる資料を分けたい場合、頻繁に更新される情報を扱う場合などが挙げられています。国の「AI事業者ガイドライン（第1.2版）」でも、RAGなどによって、事実と異なる答え（ハルシネーション）を抑え、出力の根拠をわかりやすくすることが期待されている、と触れられています。

ファインチューニング：例を学ばせて振る舞いを整える

ファインチューニングでは、入力と望ましい出力の組をたくさん用意し、AIのモデルに追加で学ばせます。

先のGoogle Cloudの記事では、問い合わせの分類や、自由な文章から決まった形式の出力を作るといった、はっきり決まった作業に向くとされています。自社らしい口調のように数字で表しにくい振る舞いを整える方法や、大きなモデルの答え方を小さなモデルに引き継いで速く動かす方法（蒸留）も紹介されています。OpenAIの案内では、ファインチューニングでは学習に使うデータの量よりも質が大切だとしています。

目的に合わせて、どう選べばよいですか？

困りごとが「知識の不足」なのか「振る舞いのばらつき」なのかで考えると、選びやすくなります。

• 社内の規程やマニュアル、商品の情報で答えさせたい：知識の不足なので、まずRAGを検討します。資料が改定されても、差し替えれば新しい内容で答えられます
• どの資料にもとづく答えかを示したい：RAGが向いています
• 出力の形式をいつも同じにしたい、口調を自社の書き方にそろえたい：振る舞いの問題なので、ファインチューニングが候補になります
• 両方の困りごとがある：組み合わせることもできます。口調はファインチューニングで整え、中身はRAGで社内の資料から取る、という使い方です

OpenAIの案内では、2つの方法は足し合わせて使えるとする一方で、困りごとの種類に合わない方法を足すと、かえって精度が下がった例も紹介しています。何に困っているのかを見極めてから選ぶことが大切です。

選ぶ前に、何から始めればよいですか？

OpenAIの案内も、Google Cloudの記事も、まずは簡単な方法から始めることを勧めています。具体的には、次の順番です。

1. プロンプトの工夫：目的、前提、出してほしい形をはっきり伝え、必要な資料を直接添えて試します。扱う情報が少なければ、これで足りることもあります
2. 評価の質問の用意：実際の業務の質問と、社内で合意した正しい答えの組をつくり、良くなったかどうかを同じ物差しで確かめられるようにします
3. 困りごとの見極め：うまくいかない原因が、知識の不足なのか、振る舞いのばらつきなのかを分けます
4. 方法の選択：知識の不足ならRAG、振る舞いならファインチューニングを検討します

RAGを使う場合は、もとになる資料の整理が成果を左右します。古い版の資料が混ざっていたり、置き場所がばらばらだったりすると、AIは誤った資料をもとに答えてしまいます。RAGの進め方は社内の資料をAIで探せるようにする（RAGの基本）、資料の整え方はAIに使うデータの整え方をご覧ください。

手間と費用は、どう考えればよいですか？

2つの方法は、かかる手間の種類が違います。

• RAG：資料を探せる形に整える準備と、資料を最新に保つ運用が中心です。資料の置き場所や版の管理、利用者ごとに見られる資料を分ける設定などが必要になります
• ファインチューニング：入力と望ましい出力の組を、質の良いものとしてそろえる準備が中心です。業務やモデルが変わったときには、学ばせ直しが必要になることがあります

どちらの場合も、うまくいったかを確かめる評価の質問は欠かせません。費用は、使うサービスや仕組みの作り方によって大きく変わるため、候補のサービスの料金表と、自社の利用の量をもとに見積もります。利用料の見積もり方は、生成AIの利用料の見積もりと管理をご覧ください。

まずはプロンプトの工夫で足りるかを確かめ、それでも足りないときに、どちらの方法を足すかを判断する、という順番にすると、むだな手間と費用を抑えられます。