JA EN
体系エージェント
·★ 会員·論文·19分で読めます

論文解説: Code World Model — コーディングエージェントを「世界の脳」にする

世界の「進み方」をコードに、世界の「見え方」を動画モデルに分担させる枠組み Code World Model を、前提知識ゼロから解説。粗い条件映像=プロキシという接続部の設計と、その限界まで読み解く。

対象imageタスクagents

Code World Model: Coding Agent as World Brain

一次資料 — この記事の根拠

論文の発表 2026-08-26この解説の公開 2026-09-03同月

Code World Model: Coding Agent as World BrainYiwen Chen, Guosheng Lin, Chi Zhang · 2026-08-26 · v1arXiv:2608.25927論文ページ·PDF
原文の要旨(Abstract)を読む

World models aim to simulate how complex environments evolve under actions and events, yet existing video-based world models primarily learn dynamics from visual observations, which reveal outcomes rather than the underlying knowledge, rules, and mechanisms governing world evolution. This makes it difficult to maintain persistent consequences and support coherent, open-ended evolution. We introduce Code World Model, a framework that separates world evolution from visual realization by combining the reasoning and coding capabilities of language models with the generative priors of video models. A coding agent serves as the world brain, reasoning about events and their consequences and generating executable code to maintain persistent world state and perform rule-consistent evolution. To connect executable state with visual generation, we introduce a proxy representation that encodes frame-wise spatiotemporal constraints and is compiled into a proxy video, which conditions a video model to render high-fidelity visual observations. We further develop data pipelines for constructing aligned proxy-observation pairs from gameplay and real-world videos. After fine-tuning on paired gameplay data, MiniMax-H3 follows proxy-based spatiotemporal specifications from simple interactive worlds built by the coding agent while preserving rich visual details and dynamics. These results demonstrate the potential of combining code for persistent world evolution with video models for flexible visual realization, providing a new path toward open-ended world models.


この記事で読むのは "Code World Model: Coding Agent as World Brain"(Yiwen Chen, Guosheng Lin, Chi Zhang / Westlake AGI Lab、arXiv:2608.25927、2026年8月26日公開)です。訳せば「コード世界モデル: 世界の脳としてのコーディングエージェント」。

論文の主張を要約すると、こうなります。世界モデルは「環境が行動や出来事に応じてどう変化するか」を模擬するものですが、映像から学ぶ既存の動画世界モデルは結果としての見た目を学んでいるだけで、その裏で世界を動かしている知識・ルール・仕組みは学べていない。だから出来事の影響を長く保持できず、筋の通った終わりなき変化も支えられない。そこで著者らは、世界の変化その視覚化を切り離します。コーディングエージェントが「世界の脳」として出来事とその帰結を推論し、実行可能なコードを書いて永続的な世界状態を保ち、ルールに沿って世界を進める。そして実行可能な状態と映像生成をつなぐために、フレームごとの時空間的な制約を符号化したプロキシ表現を導入し、それを軽量なコンパイラでプロキシ動画に変換して、動画モデルに高精細な観測を描かせる。ゲームプレイと実世界の映像から整列したプロキシ–観測ペアを作るデータパイプラインも用意し、ゲームデータで微調整した MiniMax-H3 が、コーディングエージェントの作った簡素な対話世界のプロキシ指定に従いつつ、豊かな見た目と動きを保つことを示した——という論文です。

動画は「結果」しか映さない

まず、なぜこんな迂回路が必要なのかを掴みます。

論文が挙げる例がわかりやすい(§1)。ファンタジー世界で、プレイヤーが街の支配者を暗殺して立ち去ったとします。その事件は、後継者争い・治安・交易・派閥関係・大勢のNPCの信念や目標にまで影響し続けるはずです。しかもその帰結はプレイヤーが見ていない間も進行し、後の出来事と絡み合い、ずっと後に戻ってきたときに初めて目に見える形で現れます。

ここで動画世界モデル、つまり「行動やプロンプトを条件に次の映像を生成するモデル」を考えます。論文の指摘はこうです(§1)。映像は世界のダイナミクスの観測可能な結果を記録しているだけで、それを生み出した世界知識・常識ルール・実体間の関係・長期の計画・帰結の伝播メカニズムは直接は映っていない。ゲームプレイ動画がその典型で、各フレームは固定のゲームコードを実行して描かれているのに、そのコードはレンダリング後に捨てられ、まばらな視覚的痕跡からしか推測できません。さらに、重要な状態変化の多くは画面外で起きるか、モデルが扱える時間文脈の外に及びます。学習データを増やしても、増えるのは「結果の観測」であって「仕組みの証拠」ではない、というのが論文の立場です。

追い打ちをかけるのが時間スケールの不一致です。論文いわく、現在の動画モデルの学習コンテキスト窓はふつう1分未満なのに対し、推論を要する因果過程は世界時間で何日、何年にもわたって展開します(§3.1)。

比喩: 台本を書く監督と、絵を描くスタッフ

Code World Model の発想は、役割分担です。

論文の言い方では、コードは世界で何が起こるかと、どの帰結が後に残るかを決め、動画モデルはそれがどう見えるかを決める(§1)。この分担が効くのは、2つの能力がすでに別々のデータで育っているからです。言語モデルはテキストとコードから世界知識と長期推論を、動画モデルは大規模な映像から見た目・動き・相互作用の事前分布を学んでいます。

FIG 1情報を削っても「構造」は残る。プロキシは細部を捨てて構造だけを渡す条件付けにあたる。ただしJPEGは捨てた細部を復元できないのに対し、動画モデルは学習した事前分布から細部を作り直す点が違う

定式化: 状態を「実行できる部分」と「見える部分」に割る

論文の式を追います(§3.1 Formulation)。StS_t を時刻 tt の世界の完全な状態、AtA_t をプレイヤー・環境・別のエージェントが世界に加えた行動、OtO_t をユーザや下流のエージェントが受け取る視覚的観測とします。従来の世界モデルはこう書けます。

St+1p(St+1St,At),Ot+1p(Ot+1St+1)S_{t+1}\sim p(S_{t+1}\mid S_t, A_t),\qquad O_{t+1}\sim p(O_{t+1}\mid S_{t+1})
(1)

言い換えると、「いまの状態と行動から次の状態が決まり、その次の状態から次の見た目が生まれる」。ごく素直な定義です。

Code World Model は、この StS_t を2つに割ります。

St=(Stexe,Stvis)S_t=\left(S_t^{\mathrm{exe}},\, S_t^{\mathrm{vis}}\right)
(2)

StexeS_t^{\mathrm{exe}}実行可能状態で、進化していく世界プログラム・実体の属性・ルール・関係・出来事の履歴など、直接操作できる変数がここに入ります。StvisS_t^{\mathrm{vis}}視覚状態で、動画モデルが作り出した見た目や動きのうち、時間をまたいで一貫していなければならない情報です。

この2つは、別々だが結合した過程で更新されます。エージェントとコードの合同遷移を TAC\mathcal{T}_{\mathrm{AC}}、動画モデルを GθG_\theta と書くと、

St+1exe=TAC(Stexe,At),St+1visGθ(Stvis,St+1exe)S_{t+1}^{\mathrm{exe}}=\mathcal{T}_{\mathrm{AC}}\left(S_t^{\mathrm{exe}},A_t\right),\qquad S_{t+1}^{\mathrm{vis}}\sim G_\theta\left(S_t^{\mathrm{vis}},S_{t+1}^{\mathrm{exe}}\right)
(3)

平たく言えば、世界の中身はコードが決定的に進め、その結果を見て動画モデルが絵を確率的に生成する。ここで論文はわざわざ注意書きを添えています。St+1exeS_{t+1}^{\mathrm{exe}}GθG_\theta の入力として書いたのは抽象的な依存関係の表明にすぎず、生のコードや完全な実行状態をそのままネットワークに流し込むという意味ではありません(§3.1)。何をどう選んで条件に変換するかが、次節の主題です。

論文が繰り返し強調するのは、計算の頻度が違う2種類の仕事を分けたという点です(§1, §3.1)。

この先にあるもの

§

ここから先は会員限定です

解説記事371本・教科書26章・学生モード48単元・論文精読6本が、月額¥490ですべて読み放題になります。新しい解説は毎日3本ずつ増えます。いつでも解約でき、解約後も期間の終わりまで読めます。

会員の方はログインすると続きが表示されます

参考文献

  1. Yiwen Chen, Guosheng Lin, Chi Zhang. (2026-08-26) Code World Model: Coding Agent as World Brain. arXiv:2608.25927論文ページ·PDF

本記事は上記論文の本文にもとづいて執筆しています。数値・主張は原典を優先してください。

コメント

コメントにはログインが必要です