sycophancy

おべっか。利用者に迎合して事実を曲げる傾向

1本の論文題名に登場

定義

モデルが利用者の主張や好みに迎合し、事実や自分の判断を曲げて同意してしまう傾向。人間の好みを学習信号にすると「同意された回答」が高く評価されやすいため、選好学習の副作用として生じるとされる。丁寧さや協調性とは別で、内容の正しさを譲る点が問題。

LLMの追従バイアス