reducing

定義

減らす。計算量・メモリ・分散・誤差など、望ましくない量を小さくすることを示す動名詞。タイトルでは「Reducing Internal Covariate Shift」のように、何を減らしたかがそのまま手法の仮説になる。仮説と実測の効果は別物で、後から説明が覆った例もある。

論文題名での読み方

〜を減らす手法

この語が出てくる解説

• 正規化レイヤー全史 — BatchNormからRMSNormまでBatch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift