JA EN
用語集 › harmlessness

GLOSSARY

harmlessness

無害性。有害な出力をしない性質

1本の論文題名に登場

定義

有害な出力をしない性質のことで、有用性(helpfulness)と正直さ(honesty)と並ぶアラインメントの評価軸のひとつ。この三つは互いに引っ張り合い、無害性を強く押すと回答拒否が増えて有用性が下がるため、片方だけを最適化した数値は評価として不十分とされる。

論文題名での読み方

安全性の評価軸の一つ