自己教師あり学習

自己教師あり学習は、人が正解のラベルを付ける代わりに、データの一部を隠して残りから当てさせるといった課題をデータから自動で作り、学習させる手法です。たとえば、文章の次に来る単語を予測させる、文中の隠した単語を当てさせる、といったやり方があります。ラベル付けの手間がかからないため、大量の文章や画像を学習に使えます。大規模言語モデルなどの基盤モデルの事前学習は、主にこの考え方で行われています。事前学習で身につけた一般的な知識を土台に、少ないラベル付きのデータで目的に合わせて調整する、という進め方につながっています。