用語集 › length

GLOSSARY

length

長さ。系列やテキストの長さ

1本の論文題名に登場

定義

系列やテキストの長さのこと。言語モデルでは扱えるトークン数（文脈長）を指すことが多く、注意の計算量が長さの2乗で増えるため、長くすること自体が直接コストになる。学習時の長さを超えて動くかどうかは length extrapolation として別に評価される。

論文題名での読み方

文脈長を指すことが多い

この語が出てくる解説