GLOSSARY

length

長さ。系列やテキストの長さ

1本の論文題名に登場

定義

系列やテキストの長さのこと。言語モデルでは扱えるトークン数（文脈長）を指すことが多く、注意の計算量が長さの2乗で増えるため、長くすること自体が直接コストになる。学習時の長さを超えて動くかどうかは length extrapolation として別に評価される。

文脈長を指すことが多い