hyperparameter

ハイパーパラメータ。学習前に人が決める設定

1本の論文題名に登場

定義

学習率や層数、正則化係数のように、学習の前に人が指定する設定値。勾配で最適化されないため、探索アルゴリズムか手作業で決める必要があり、その手間の差が比較結果に紛れ込む隠れた変数になる。公平な比較には、比較対象にも同等の探索予算を与えたかが問われる。

学習率・層数など