preconditioned

前処理済みの。勾配を整えてから使う

1本の論文題名に登場

定義

前処理済みの。勾配をそのまま使わず、行列を掛けて方向と歩幅を整えてから更新に用いることを指す。損失面が方向によって極端に伸び縮みしている（条件数が悪い）ときに効き、実質は座標系を張り替えて等方的な問題に直す操作にあたる。前処理行列に何を使うかが、Adam・K-FAC・Shampoo を分けている違いそのもの。

論文題名での読み方

収束を速める工夫