GLOSSARY

sampling

サンプリング。確率に従って候補を取り出すこと

1本の論文題名に登場

定義

確率分布に従って候補を1つ引き出す操作。言語モデルの生成は各ステップで次トークンを引く sampling そのもので、temperature や top-p がその引き方を制御する。統計の標本抽出と根は同じだが、この分野では生成手続きを指すのが普通。

生成で候補を引くこと