GLOSSARY

layer

層。ネットワークを構成する一段

1本の論文題名に登場

定義

層。ネットワークを構成する一段の変換で、入力を受けて重み・非線形・正規化などを通し次段へ渡す。深層学習の「深さ」はこの層の数を数えたもので、層をどう積み、どうつなぐかがアーキテクチャ設計そのものになる。LayerNorm のように、統計量をどの軸で取るかを表す修飾語としても使われる。

深さ＝層の数