instructions

定義

モデルに何をしてほしいかを自然言語で伝える命令文。指示追従の学習を経ることで、モデルは事前学習時の続き書きではなく、要求に沿った応答を返すようになる。恒常的に効かせるシステムプロンプトと、その場のユーザー入力を分けて扱う実装が一般的。

論文題名での読み方

指示追従の指示

この語が出てくる解説

• アライメント概説 — RLHFからConstitutional AIまでTraining language models to follow instructions with human feedback
• データセット構築の実務 — 集める・洗う・混ぜるSelf-Instruct: Aligning Language Models with Self-Generated Instructions
• KL情報量を1から — 2つの分布の「ズレ」を測るTraining language models to follow instructions with human feedback