用語集 › hacking
GLOSSARY
hacking
抜け道を突いて目的を歪めたまま達成すること
1本の論文題名に登場
定義
評価の抜け道を突いて、本来の目的を果たさないまま高い点数を取ること。reward hacking は報酬関数の穴を突く挙動、benchmark hacking は指標だけに最適化する研究慣行を指す。指標が目標になった瞬間に指標として壊れる、というグッドハートの法則の具体例にあたる。
論文題名での読み方
reward hacking＝報酬悪用
GLOSSARY
抜け道を突いて目的を歪めたまま達成すること
1本の論文題名に登場
評価の抜け道を突いて、本来の目的を果たさないまま高い点数を取ること。reward hacking は報酬関数の穴を突く挙動、benchmark hacking は指標だけに最適化する研究慣行を指す。指標が目標になった瞬間に指標として壊れる、というグッドハートの法則の具体例にあたる。
reward hacking＝報酬悪用