リランキング

リランキングは、RAGなどで最初の検索がいくつかの候補の文書を集めた後、質問との関連をより細かく見て順位を付け直す処理です。最初の検索は速さを重視して幅広く集め、並べ直しで精度を高めるという二段構えの設計がよく使われます。生成AIに渡す文書の数には限りがあるため、関連の強い文書を上位に置けるかどうかが、回答の質を左右します。一方で、処理を一段増やすと、応答時間や費用が増える場合があります。社内の実際の質問を使い、並べ直しの有無で回答の正しさと応答時間を比べてから採用を決めると、判断しやすくなります。