推論モデル
すいろんもでる ／ Reasoning Model
定義
推論モデルとは、回答する前に段階を追って考える処理を行い、複雑な問題に対応しやすくした言語モデルのことです。
推論モデルは、すぐに回答を出すのではなく、問題を分解し、途中の考えを段階的に重ねてから答えを出すように作られた大規模言語モデルです。数学や論理の問題、プログラムの作成、複数の条件を比べる検討など、手順を踏んで考える必要がある作業で精度が高まりやすいとされます。一方で、考える処理の分だけ応答に時間がかかり、利用料金が高くなる場合があります。簡単な質問や定型の文章作成には通常のモデルで十分なことも多いため、作業の難しさに応じてモデルを使い分けると、費用と品質のつり合いを取りやすくなります。