supervision

定義

学習時にモデルへ与える正解の手がかりのこと。人手ラベルによる教師あり、データ自体から目標を作る自己教師あり、部分的・雑な信号による弱教師ありなど、信号の出どころで手法が分類される。ラベルが最も高価な資源であるため、少ない supervision で学ぶ工夫が進歩の軸になってきた。

論文題名での読み方

正解の与え方を指す

この語が出てくる解説

• オンポリシー蒸留 — 生徒自身の出力で教わるOn-Policy Self-Distillation without Any Supervision
• 音の表現 — メルスペクトログラムとトークン化Robust Speech Recognition via Large-Scale Weak Supervision
• VLMの成立と現在 — 視覚エンコーダとLLMをどう繋ぐかLearning Transferable Visual Models From Natural Language Supervision