aligning

定義

モデルの振る舞いを、人の意図や指示、安全上の方針に沿わせること。事前学習だけのモデルは文章の続きを予測するだけで指示に従うとは限らないため、指示追従の微調整や選好学習で出力の向きを整える工程を指す。能力を増やす話ではなく、既にある能力の出し方を整える話である点が違う。

論文題名での読み方

alignmentの動名詞

この語が出てくる解説

• データセット構築の実務 — 集める・洗う・混ぜるSelf-Instruct: Aligning Language Models with Self-Generated Instructions