covariate

定義

共変量。予測の入力側にあたる変数のことで、統計学で説明変数を指す語がそのまま持ち込まれている。covariate shift は、入力の分布が学習時と適用時で変わる一方、入力から出力への条件付き分布は変わらない、という特定の型の分布シフトを指す。ラベル側が変わる label shift とは対処法が異なる。

論文題名での読み方

入力分布のこと

この語が出てくる解説

• 正規化レイヤー全史 — BatchNormからRMSNormまでBatch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift