GLOSSARY

xgrammar

構造化出力(文法制約デコード)を高速化する実装名

1本の論文題名に登場

定義

文法制約付きデコード（構造化出力）を高速に行うためのオープンソース実装。JSONスキーマや文脈自由文法に合致するトークンだけを各ステップで許可することで、出力形式の正しさを事後の検証ではなく生成時に保証する。制約の適用がそのまま推論の遅延になるため、許可トークン集合の事前計算などで負荷を下げる工夫が中心になっている。

論文題名での読み方

固有名。JSON等の出力制約