指示チューニング

指示チューニングは、事前学習を終えたモデルを、「次の文章を要約してください」といった指示と、その模範的な回答の組を多数集めたデータで追加学習させる調整です。2021年のGoogleの研究チームの論文（FLAN）では、自然な言葉の指示で表した多くのデータで調整したモデルが、学習で見ていない種類の作業でもよい成績を示したと報告されています。この調整によって、利用者が自然な言葉で頼むだけで作業をこなせるようになりました。企業が自社の書式や言い回しに合わせたい場合も、同じ考え方で調整することがありますが、まずはプロンプトの工夫で足りるかを確かめると費用を抑えやすくなります。

確かめた出典：https://arxiv.org/abs/2109.01652