用語集 › bit
GLOSSARY
bit
ビット。0か1で表す情報の最小単位
2本の論文題名に登場
定義
0 か 1 の二値で表す情報の最小単位。実務では主に量子化の文脈で現れ、重みや活性を 1 個あたり何ビットで持つか(8bit、4bit など)がメモリ使用量と精度低下のトレードオフを決める。ビット数を下げるほど同じ GPU に大きなモデルが載るが、劣化の出方は層や用途で異なる。
論文題名での読み方
量子版はqubit
この語が出てくる解説
- 論文解説: Gated DeltaNet はなぜ4bit量子化に耐えるのか — ハイブリッド27BのNVFP4 W4A4Why Gated DeltaNet Survives 4-Bit Quantization: NVFP4 W4A4 for the Recurrent Half of a Hybrid 27B LLM