用語集 › extension
GLOSSARY
extension
拡張。適用範囲や長さを伸ばすこと
1本の論文題名に登場
定義
適用範囲や上限を伸ばすこと。長文脈研究では context length extension、すなわち学習時より長い入力を扱えるようにする改造を指すのが定番で、位置埋め込みの補間や短い追加学習がその手段になる。モデルを一から作り直すのではなく、既存の重みを活かして後から広げる、という含みを持つ語である。
論文題名での読み方
文脈長の延長など
GLOSSARY
拡張。適用範囲や長さを伸ばすこと
1本の論文題名に登場
適用範囲や上限を伸ばすこと。長文脈研究では context length extension、すなわち学習時より長い入力を扱えるようにする改造を指すのが定番で、位置埋め込みの補間や短い追加学習がその手段になる。モデルを一から作り直すのではなく、既存の重みを活かして後から広げる、という含みを持つ語である。
文脈長の延長など