smelt

定義

一般には鉱石から金属を取り出す精錬を意味する語だが、この分野では論文が名付けた手法の名称として現れる。不要物を取り除いて核心を残すという比喩から命名されることが多いものの、実際の手続きを名前から復元することはできない。造語である以上、何を入力に何を出す手法かは原典の定義を確認する必要がある。

論文題名での読み方

固有名。造語の手法名

この語が出てくる解説

• 論文解説 SMELT — 「同じ層をもう一周」は、予算を揃えても得なのかSMELT: Scaling Laws for Compute-Matched MoE Looped Transformers