hierarchy

定義

命令や権限に上下の順位を設けた構造。安全設計では、システムプロンプト、開発者の指示、利用者の入力、外部データの順に信頼度を落とす instruction hierarchy として使われ、下位の命令が上位を上書きできないようモデルを訓練する。階層の対象が「指示の信頼度」である点が、クラスやネットワークの階層と違う。

論文題名での読み方

命令の優先順位

教科書で学ぶ

• メモリの階層と「メモリの壁」