self-monitoring

定義

モデルが自分の出力や内部状態を自ら監視し、誤りや逸脱を検出する仕組み。外部の検証器を用意できない場面で、生成の途中に自己点検を挟んで停止や修正を促す設計が試みられている。ただし見落としの方向に偏りやすく、外部検証の代わりになるかは別に検証が要る。

論文題名での読み方

自己チェックの仕組み

この語が出てくる解説

• 論文解説: The Personalization Mirage — LLMは「あなた」を勝手に作り上げ、自己申告は逆を指すThe Personalization Mirage: How LLMs Fabricate User Profiles, and Why Self-Monitoring Misleads