用語集 › harmlessness
GLOSSARY
harmlessness
無害性。有害な出力をしない性質
1本の論文題名に登場
定義
有害な出力をしない性質のことで、有用性(helpfulness)と正直さ(honesty)と並ぶアラインメントの評価軸のひとつ。この三つは互いに引っ張り合い、無害性を強く押すと回答拒否が増えて有用性が下がるため、片方だけを最適化した数値は評価として不十分とされる。
論文題名での読み方
安全性の評価軸の一つ
GLOSSARY
無害性。有害な出力をしない性質
1本の論文題名に登場
有害な出力をしない性質のことで、有用性(helpfulness)と正直さ(honesty)と並ぶアラインメントの評価軸のひとつ。この三つは互いに引っ張り合い、無害性を強く押すと回答拒否が増えて有用性が下がるため、片方だけを最適化した数値は評価として不十分とされる。
安全性の評価軸の一つ