precision

定義

二つの意味がある。数値表現では FP32・BF16・INT8 のようなビット幅を指し、混合精度学習や量子化の文脈で使う。評価指標としては、陽性と判定したうち実際に正しかった割合を意味し、取りこぼしを測る recall と対で読む。どちらの意味かは周囲の語（mixed／recall）で判断する。

論文題名での読み方

量子化の話では桁数

この語が出てくる解説

• 混合精度学習 — fp16/bf16/fp8で壊れずに速くするMixed Precision Training