self-supervised

自己教師あり。ラベルなしデータで学ぶ

3本の論文題名に登場

定義

人手のラベルを使わず、データ自身の一部を隠して残りから当てさせるなどして学習信号を作る枠組み。次単語予測やマスク復元が代表で、注釈コストなしに大量のデータを使えることが大規模事前学習を成立させた。損失の形は教師ありと同じで、正解を人ではなくデータから作る点だけが違う。

人手ラベル不要