autoregressive

自己回帰の。直前までを見て次を予測

3本の論文題名に登場

定義

直前までに生成した内容を条件に、次の要素を一つずつ予測していく生成方式を指す語。GPT 系の言語モデルが典型で、系列全体の確率を条件付き確率の積に分解して学習・生成する。1トークンずつしか進めないため並列化しにくく、拡散モデルなどと対比される。

GPT系の生成方式