#inference-cost

1 記事

01 ·推論・高速化·★ 会員·論文·7分で読めます 論文解説: JEV-as-a-Judge — 自信があれば採用、迷ったら上位の審査員へ JEV-as-a-Judge: Accept When Confident, Escalate When Unsure 判定と確率だけを返す安価な審査AI（JEV）を一次審査に置き、自信の低い判定だけ強いLLMに回す。その2段構えが効く範囲と効かない範囲を、費用とともに実測した論文の解説。