alignment

アラインメント。AIを人の意図に沿わせること

4本の論文題名に登場

定義

モデルの振る舞いを、人の意図や価値観、指定された規範に沿わせること。単に性能を上げるのではなく、有害な出力を避け、指示の裏にある本当の狙いを汲むことが目的で、RLHF などの手法群がこれにあたる。表現の位置合わせを意味する画像・言語の alignment とは別の用法。

安全性研究の中心語