fine-tuning

学習済みモデルを目的に合わせ追加学習

4本の論文題名に登場

定義

事前学習済みモデルを、目的の課題や振る舞いに合わせて追加学習する工程。必要なデータ量と計算量は事前学習に比べ桁違いに小さく、指示追従や特定ドメインへの適応に使われる。プロンプトで振る舞いを変えるのと違い、重みそのものを更新して効果を固定する点が本質的な差。

後段の調整工程