用語集 › quantized
GLOSSARY
quantized
量子化された。連続値を離散の代表値に丸めた
1本の論文題名に登場
定義
重みや活性の数値を、32ビット浮動小数点から8ビットや4ビットといった粗い表現へ丸めた状態。メモリと帯域を減らして推論を速くする代表的な軽量化手段で、どこまで精度低下を抑えられるかが争点になる。量子コンピュータの「量子」とは無関係で、連続値を離散の代表値に写す操作を指すだけである。
論文題名での読み方
離散化・軽量化を示す
GLOSSARY
量子化された。連続値を離散の代表値に丸めた
1本の論文題名に登場
重みや活性の数値を、32ビット浮動小数点から8ビットや4ビットといった粗い表現へ丸めた状態。メモリと帯域を減らして推論を速くする代表的な軽量化手段で、どこまで精度低下を抑えられるかが争点になる。量子コンピュータの「量子」とは無関係で、連続値を離散の代表値に写す操作を指すだけである。
離散化・軽量化を示す