pre-trained

事前学習済みの。土台ができた状態の

3本の論文題名に登場

定義

大規模データでの事前学習を済ませ、汎用的な表現を獲得した状態のモデルを指す形容詞。ここから目的のタスクに合わせて微調整するのが標準の流れで、毎回ゼロから学習しなくてよいことが現在の実用性の土台になっている。ハイフンなしの pretraining は、その状態を作る工程を指す名詞形。

土台モデルを指す