compute

定義

計算資源そのもの、およびそこに投じた計算量を指す名詞。学習に何 FLOPs 使うかだけでなく、近年は test-time compute（答えを出す際に追加で回す計算）が性能の軸として扱われる。動詞の「計算する」とは別で、論文では基本的に量としての資源を指す。

論文題名での読み方

GPU時間の総量

この語が出てくる解説

• 論文解説 SMELT — 「同じ層をもう一周」は、予算を揃えても得なのかSMELT: Scaling Laws for Compute-Matched MoE Looped Transformers
• スケーリング懐疑論 — 「大きくするだけ」批判の系譜Training Compute-Optimal Large Language Models
• スケーリング則を1から解説 — なぜ大きくすると賢くなるのかTraining Compute-Optimal Large Language Models