network

定義

層を重ねた学習可能な計算構造（ニューラルネットワーク）を指す語。入力から出力までを微分可能な演算の連なりで表すことで、1つの損失から全パラメータを勾配で更新できる。グラフや通信網としての network とは別の意味だが、graph neural network では両方の意味が同時に関わる。

論文題名での読み方

neural networkで使う

この語が出てくる解説

• 蒸留・量子化・枝刈りの使い分け — 小さくする3つの道Distilling the Knowledge in a Neural Network
• 蒸留レシピ図鑑 — logit・feature・attention・self をどう使い分けるかDistilling the Knowledge in a Neural Network
• 蒸留の数学 — なぜ「柔らかい答え」から学べるのかDistilling the Knowledge in a Neural Network