text

定義

文字で書かれた情報そのもの、あるいはそれを扱う様式を指す語。text-to-image や text-to-speech のように、入出力の形式を示す複合語で頻出する。生の文字列はそのままモデルに入らず、必ずトークン列に変換される点は実装上の重要な前提。

論文題名での読み方

文章を扱う研究

この語が出てくる解説

• 論文解説: ピクセル文字表現学習の設計原則 — 文書を「読まずに見る」エンコーダは何で決まるかOn the Design Fundamentals of Pixel Text Representation Learning
• 論文解説: LatentPress — 圧縮した文脈を、テキストにも画像にも戻さずLLMに直接読ませるLatentPress: Context Compression Beyond Text and Vision
• 事前学習データの作り方 — Webから教科書品質へThe Pile: An 800GB Dataset of Diverse Text for Language Modeling