convergence

収束。学習が落ち着くこと

2本の論文題名に登場

定義

学習が進んで損失やパラメータがそれ以上大きく動かなくなる状態、またはそこへ至る過程。収束の速さは学習率やオプティマイザ、バッチサイズに強く依存し、手法比較では同じ計算量で比べないと不公平になる。収束したことは、良い解に達したことを必ずしも意味しない。

学習の安定性を論じる