CLOSE READING
論文精読
原文のまま読む。訳と解説は、詰まったときだけ開く。
◆ 自動車・自動運転2
認識・予測・計画・制御。車載で動かすための制約まで含めて読む。
33BのMiniMax-H3という動画生成モデルに専用の行動モジュールを一切足さず、キャラクター操作とカメラ操作を「文」に直して動画ラテント1区間ごとに割り当て、その文が対応する区間にしか直接届かないようにattentionマスク(single-egress routing)で縛り、LoRAで0.199%だけ学習して操作可能な世界モデルにした論文。
★★ · 35分 · 7節
自動運転VLMの検証可能な推論のための、未来軌道の遅延提示 ★自動運転VLMのCoT教師データ作りで正解軌道を先に見せると「後付けの理由づけ」が起きることを人手評価で示し、計画を候補軌道の選択問題(AD-MCQ)に置き換えたうえで軌道の提示を意思決定の後まで遅らせて強化学習する手法(DEFT-RLVR)を提案した論文。
★★★ · 45分 · 7節
◉ AI（ソフトウェア）2
LLM・エージェント・学習手法。実装と評価まで踏み込んで読む。
モデル自身に「次はどこを見るか」を思考連鎖の中でタグとして宣言させ、その文字列からアテンションマスクを組み立てることで、追加学習も補助スコアラーもなしにデコード時のKVキャッシュ読み出しを半減させるプロトコル（Declarative Attention）を提案した論文。
★★★ · 45分 · 8節
ReAct: 推論と行動を相乗させる言語モデル ★LLMに「思考(thought)」と「行動(action)」を交互に出力させ、Wikipedia APIや環境操作と噛み合わせることで、幻覚を減らしながら質問応答と意思決定タスクの成績を上げた論文。
★★ · 45分 · 7節
⬢ GPU・ハードウェア2
メモリ階層・カーネル・量子化。NVIDIAのハード側まで理解する。
同じ層を2回通すループTransformerの効果を、トークンあたりFLOPs・総パラメータ数・KVキャッシュの3予算をすべて揃えたうえで測り直し、MoEなら層の中央半分を2周させる方が得（学習FLOPsを6.8〜18.0%節約）だと4スケール分のスケーリング則で示した論文。
★★★ · 45分 · 8節
Attentionこそが全て ★再帰も畳み込みも捨て、Attentionだけで系列変換を行うTransformerを提案し、機械翻訳で当時の最高精度を桁違いに小さい学習コストで達成した論文。
★★ · 40分 · 8節