GLOSSARY

straight

まっすぐな。straight-throughは勾配の素通し

1本の論文題名に登場

定義

ほぼ straight-through estimator の一部として現れる語。順伝播では量子化のような微分不可能な操作を行い、逆伝播ではそれを恒等写像とみなして勾配をそのまま通す近似を指す。量子化学習や離散潜在変数の学習を可能にする、厳密には正しくないが有効な回避策。

量子化の勾配近似で頻出