sharpness-aware

鋭さを考慮した。谷の平坦さを意識する

1本の論文題名に登場

定義

損失そのものだけでなく、その点の周囲で損失がどれだけ急に増えるか（鋭さ）も一緒に小さくしようとする考え方。代表が SAM（Sharpness-Aware Minimization）で、近傍で最悪となる方向へ一度動いてからその地点の損失を下げる。平坦な谷を選んで汎化を改善する狙いだが、勾配計算が増える分だけ学習コストは上がる。

論文題名での読み方

SAM（手法名）の一部