用語集 › sequence-level
GLOSSARY
sequence-level
系列単位の。文全体をまとめて扱う
3本の論文題名に登場
定義
トークンを一つずつ採点するのではなく、生成した系列全体をまとまりとして扱うこと。トークン単位の損失は各位置で正解語を当てさせるだけなので、翻訳や推論のように出力全体の良し悪しが問われるタスクとは噛み合わない。強化学習で系列の完成後に報酬を与える設計が典型例である。
論文題名での読み方
単語単位と対比
GLOSSARY
系列単位の。文全体をまとめて扱う
3本の論文題名に登場
トークンを一つずつ採点するのではなく、生成した系列全体をまとまりとして扱うこと。トークン単位の損失は各位置で正解語を当てさせるだけなので、翻訳や推論のように出力全体の良し悪しが問われるタスクとは噛み合わない。強化学習で系列の完成後に報酬を与える設計が典型例である。
単語単位と対比