用語集 › high-dimensional
GLOSSARY
high-dimensional
高次元の。変数やパラメータが非常に多い
1本の論文題名に登場
定義
変数やパラメータの数が非常に多い状況を指す語で、深層学習ではパラメータ数そのものがこれにあたる。次元が上がると必要なデータ量が急増し、点どうしの距離がほぼ等しくなって距離の直観が働かなくなる。一方で鞍点の性質のように、高次元だからこそ成り立つ好都合な事実もあるため、難点だけの語ではない。
論文題名での読み方
難しさの原因を示す
この語が出てくる解説
- 凸性と最適化 — なぜ深層学習は「凸でない」のに動くのかIdentifying and attacking the saddle point problem in high-dimensional non-convex optimization