follow

定義

与えられた指示の内容と制約に沿って出力することを指す語。instruction following の形で能力名として使われ、事前学習だけのモデルではこの性質が弱いため、指示データでの微調整や選好学習で獲得させる。正しい知識を持つことと、言われた形式で答えることは別の能力。

論文題名での読み方

指示追従の能力

この語が出てくる解説

• アライメント概説 — RLHFからConstitutional AIまでTraining language models to follow instructions with human feedback
• KL情報量を1から — 2つの分布の「ズレ」を測るTraining language models to follow instructions with human feedback
• Instruction Tuning と RLHF を1から解説 — 指示に従うモデルはどう作られるかTraining language models to follow instructions with human feedback