推論

AIの分野で推論とは、学習を終えたモデルに新しい入力を与えて、予測・分類・文章生成などの結果を出させる処理を指します。たとえば、問い合わせ文を入れて回答案を得る、画像を入れて不良品かどうかを判定する、といった実際の利用場面の多くは推論にあたります。学習は一度にまとめて行うことが多いのに対し、推論は利用のたびに発生するため、利用量が増えると計算費用や応答時間が課題になりやすくなります。クラウドで使うか、社内の機器で動かすかを決めるときは、推論の回数と費用の見込みを立てておくと判断しやすくなります。