·無料·論文·21分で読めます

論文解説: VBVR-Pro — 「絵で考える」AIを、訓練でき・採点でき・比較できるようにした実験場

画像や動画の生成そのものを「思考の場」として扱うネイティブ視覚推論。VBVR-Proは300個の手続き生成タスクと、VLM審判に頼らない決定論的な採点器を用意し、画像・動画・インターリーブ生成を同じ土俵で比較した。前提知識ゼロから読める解説。

要点

  • ネイティブ視覚推論は、絵を入力でも出力でもなく「考えるための紙」として扱い、言語を超えた推論の基盤とする。
  • VBVR-Proは視覚推論を300個の手続き生成タスクに変換し、うち150個は先行研究VBVRからの再実装・改訂、150個は新規設計である。
  • VLM審判は、温度0でも同じ動画の採点し直しで54.6%〜92.8%のケースでスコアが変わり、最大変化幅は0.221に達した。
  • 提案スコアラーは画素ではなく属性を比べ、1票あたりの人間一致率は0.60超でGPT-5.5の0.54を上回った。
  • 中間の視覚状態を消すと総合0.638が0.099まで落ち、視覚の軌跡が推論時に実際に使われる作業記憶だと結論づけた。
対象imageタスクgeneration

VBVR-Pro: A Scalable and Verifiable Suite for Native Visual Reasoning

一次資料 — この記事の根拠

論文の発表 2026-08-26→この解説の公開 2026-08-29同月

VBVR-Pro: A Scalable and Verifiable Suite for Native Visual ReasoningJunxiang Xu, Ruisi Wang, Fanyi Pu ほか · 2026-08-26 · v1arXiv:2608.26105論文ページ·PDF
原文の要旨(Abstract)を読む

Native visual reasoning treats visual generation as the medium of reasoning itself: visual states (i.e. images and videos) are not merely inputs to be understood or outputs to be rendered, but first-class substrates for problem solving beyond language. Yet progress remains bottlenecked by the lack of scalable training tasks, reliable feedback, and controlled comparisons across generative substrates. In this work, we introduce VBVR-Pro, a closed-loop testbed that makes native visual reasoning through generation trainable, verifiable, optimizable, and experimentally controllable. 1) Task scaling. VBVR-Pro turns visual reasoning into a controlled task space of 300 procedurally generated tasks. Models trained on VBVR-Pro show strong transfer beyond the proposed suite across seven external visual reasoning benchmarks such as RISE-Video, MME-CoF-Pro, and BabyVision. 2) Verifiable rewards. VBVR-Pro provides verifiable reward scorers for task-grounded evaluation. Through a systematic study of leading MLLMs as judges, we identify recurring failure modes of the prevalent VLM-as-a-judge paradigm. In contrast, the proposed scorers are grounded in deterministic, task-specific rules, achieve fine-grained alignment with human judgments. Importantly, they serve as reliable reward signals for large-scale multi-task reinforcement learning and demonstrate stronger post-RL performance across visual reasoning tasks. 3) Mechanism study. VBVR-Pro enables controlled modality studies across more than 30 image, video, and interleaved generators. Our analysis shows that video generation remains strongest for tasks requiring persistent spatiotemporal state tracking, while interleaved generation provides a compute-efficient alternative. Critically, ablations and probing suggest the presence of vision-native trajectories that are crucial to visual reasoning. We release all data, models, scorers, and code.


頭の中で「絵を動かして」解く問題がある

紙とペンを渡されて「この積み木を180度回したらどう見える?」と聞かれたとき、あなたは言葉で考えていないはずです。頭の中で積み木を回し、途中の見え方を確かめ、答えの形にたどり着く。迷路を解くときも同じで、指でなぞるように経路を試し、行き止まりに当たったら戻る。言葉になる前の段階で、絵そのものを操作しているわけです。

いまのAIは、この種の問題も結局は言葉に翻訳して解こうとします。画像を見て「赤い箱が左上にあり、青い箱が右下にあり……」と文章化し、その文章の上で推論する。翻訳の途中で落ちる情報があっても、言語モデルはそれに気づけません。

これに対してネイティブ視覚推論(native visual reasoning) は、絵を入力でも出力でもなく「考えるための紙」として扱います。論文の言い方では、視覚的な状態(画像や動画)は理解されるべき入力でも描画されるべき出力でもなく、言語を超えた問題解決の第一級の基盤(first-class substrate) だ、というものです(Abstract)。動画生成モデルに「この迷路を解く動画を作れ」と指示すると、モデルはコマを進めながら状態を更新していく。その動画の生成過程こそが推論だ、という発想です。

進まなかった理由は「訓練データ・採点・比較」の3つ

面白い発想ですが、研究として前に進みませんでした。論文は詰まりを3つに整理しています(§1)。

1つ目、訓練できるタスクが無い。 既存のベンチマークは評価専用で、訓練データをほとんど持ちません。逆に大規模な合成データは記号的で単純な設定に寄っていて、そこで学んだ力が他へ移るのかが分かりません。

2つ目、まともに採点できない。 生成された動画が「正しく推論できている」かどうかを誰が判定するのか。現在の主流は強力なマルチモーダルLLMに審判をさせる VLM-as-a-judge ですが、視覚推論の正しさは「個数が合っているか」「壁を越えていないか」といった厳密な条件で決まります。ここが審判の苦手分野です。

3つ目、公平に比べられない。 画像生成・動画生成・画像と文章を交互に出すインターリーブ生成のどれが視覚推論に向くのか。これまで同じタスク・同じ採点基準で訓練して比べた例がほとんどありませんでした。

VBVR-Pro(arXiv:2608.26105、2026年8月26日公開、50人超の共同研究)は、この3つをまとめて塞ぐ閉ループの実験場として提案されています。

タスクを「プログラム」として書く

VBVR-Proは視覚推論を300個の手続き生成タスクの空間に変換しました(§2.2)。うち150個は先行研究VBVRからの再実装・改訂、150個は新規設計です。

ここでいうタスクとは、問題そのものではなく問題を作るプログラムです。各タスクはパラメータ化された生成器で、格子サイズ・物体数・配置・見た目・難易度といった構造化されたパラメータ空間から設定をサンプリングし、その設定に対応する問題インスタンスを作ります。同時にタスク固有のソルバーが正解を計算するので、人手のアノテーションなしに正解付きデータが無限に湧く構造になっています。

タスクは認知能力の5分類で整理されています(§2.1)。知覚(OCR・記号認識・数え上げ・並べ替え・比較)、空間性(相対位置・3次元構造・ナビゲーション)、変換(2次元の平行移動や回転などの操作)、抽象(パターン帰納・対称性や形の補完・新しく指定された規則下での推論)、知識(アイコンの慣習的意味・物理現象・常識・古典ゲームの規則や戦略・身近な道具の仕組み)の5つで、1つのタスクが複数のラベルを持つこともあります。

もうひとつ効いている設計がマルチモダリティです(§2.2)。同じ問題インスタンスが、動画としても、画像としても、テキスト注釈付きのインターリーブ形式としてもレンダリングされます。ただし動画からコマを抜くだけでは足りないので、画像側には3つの出力形式が用意されました。最終状態だけで答えが表せるタスク向けの Last-Frame、迷路のように解の要所だけ見せれば足りるタスク向けの Key-Frame(経路そのものを重ねて描く)、そして過程の妥当性や時間的な連続性を評価するタスク向けの Multi-Frame です。動画と画像は別々のコーパスではなく、同じ問題の別の描き方であり、だからこそ生成方式を公平に比べられます。

規模は、300タスクから約347万枚の画像と約130万本の動画。250タスクから1タスクあたり5,000インスタンスを取って125万件の訓練データを作り、別途RL用に5万件を用意しています。残る50タスクは訓練に一切使わない未知タスク(OOD) として取り置かれ、評価用のVBVR-Pro-Benchは訓練済み50タスク(ID)と未知50タスク(OOD)の計100タスクで構成されます(§2.3)。

新規150タスクは、旧タスクより明確に重くなっています。1タスクあたり50枚の問題フレームで測った連結した色領域の数の中央値は、新タスクが80に対して旧タスクは12。目隠しでの一対比較では、150組のうち113組で新タスクのほうが深い推論を要すると判定され、多段推論を要する割合は旧タスクの7%に対して新タスクは47%でした(§2.3)。

「ただ覚えただけ」ではないのか

手続き生成した合成データで訓練すれば、そのタイプの問題に強くなるのは当たり前です。問題は、そこで得た力が外の世界に移るか。論文は、この疑いを潰すために複数の診断を回しています(§1、§4.4)。

そのひとつが最近傍分析です。外部ベンチマークで正解できた事例について、初期画像を CLIP と DINOv2 の特徴で、指示文を BGE-base-en-v1.5 の埋め込みで表し、訓練データの中から最も似ているインスタンスを引いてきます。もし成功が丸暗記なら、そっくりな訓練例が見つかるはずです。

FIG 1埋め込み空間でクエリに近い順に訓練データを引く操作。「一番近いものがどれだけ近いか」で、丸暗記かどうかを疑う

論文が報告したのは逆でした。引かれてきた訓練例は、クエリと視覚的にも意味的にも別物で、指示文が近いものはあっても見た目は大きく違う(§4.4)。つまりモデルはパターンの丸写しではなく、並べ替え・対応付け・物体操作といった再利用できる抽象的な視覚操作を学んでいる、という読み筋になります。

VLM審判が壊れる3つの壊れ方

ここからがVBVR-Proのもう一本の柱、検証可能な報酬スコアラー(verifiable reward scorers) です。論文はまずVLM審判を実測で解体します(§3.1)。

壊れ方1: 細かい知覚を外す。 加法混色のタスクで、生成されたボールの色相が間違っているのに、3つのVLM審判はいずれも0.80以上を付けました。提案スコアラーの評価は0.40です。

壊れ方2: 決定的な誤りを見落とす。 同心円のタスクで、保たれるべき円のサイズと色が変わっているのに、審判は0.78や0.93といった高得点を付けました。

壊れ方3: タスク自体を誤解する。 パターン補完のタスクで、正しい答えに提案スコアラーは0.94を付けたのに、VLM審判は0.24〜0.80しか付けませんでした。

つまり誤りは両方向に出ます。間違いを過大評価し、正解を過小評価する。加えてコストの問題があり、RLでは膨大なロールアウトを何ステップも採点するので、商用APIなら課金が、オープンソース審判ならGPU時間が訓練と食い合います。

そして最も厄介なのが再現しないことです。温度0でも、同じ動画を採点し直すと54.6%〜92.8%のケースでスコアが変わり、最大変化幅は0.221に達しました(表2)。提案スコアラーは変化率0.0%、最大変化0.000です。報酬として使うなら、この非決定性はそのままノイズになります。

採点を「ルール」に戻す

提案スコアラーは、100タスクそれぞれに専用に実装されています(§3.2)。設計の核心は、画素を比べるのをやめて、タスクに関係する意味的な実体を比べることです。

HSVでの色領域分割、輪郭検出、描画された数字やラベルのOCR、フレーム間の軌跡追跡といった古典的なコンピュータビジョンの手法で、対象物の色・形・位置・個数といった属性を取り出す。採点はその属性の上で行います。画素比較だと、わずかな位置ずれや描画スタイルの違いで正解を減点してしまいますが、属性レベルなら「タスクとして正しいか」だけを見られます。

採点の合成方法は2種類に分かれます。論文の記述を式にすると、緩い基準のタスクは重み付き和で、

ssoft=∑iwi cis_{\text{soft}}=\sum_{i} w_i\,c_i
(1)

厳しい制約のあるタスクは掛け算で合成されます。

shard=∏icis_{\text{hard}}=\prod_{i} c_i
(2)

cic_i は「チェック項目 ii をどれだけ満たしたか」を0〜1で表した値、wiw_i は人手で調整された重みです。式(1)は「部分点の足し算」なので惜しい答えにはそれなりの点が付きます。一方の式(2)は掛け算なので、どれか1つでも0に近いと全体が一気に0に落ちます。壁を突き抜けた迷路の解答に部分点を与えたくない、というときはこちらを使う、という使い分けです。

実装のイメージは次のようになります。

attrs  = extract_entities(frame)          # HSV分割・輪郭・OCR・軌跡追跡
checks = [c(attrs, meta) for c in TASK_CHECKS]   # metaは生成時の正解メタデータ
score  = sum(w * c for w, c in zip(W, checks))   # 緩い基準
score  = math.prod(checks)                       # 硬い制約

この設計だと、API呼び出しは不要、GPUはOCRのときに任意で使うだけ、そして完全に決定論的です。さらに「どのチェックに落ちたか」が分かるので、誤りの内訳が読めます。

人間とどれくらい一致するか

スコアラーの妥当性は、人手の選好と突き合わせて測られました(§3.3)。VBVR-Pro-Benchの100タスク×5インスタンスで動画生成モデル8個を評価し、計4,000本の動画を生成。タスクごとに1インスタンスを抜いてモデルの全ペアを比較し、各ペアに10人分の独立したアノテーションを集めています。

結果、提案スコアラーの1票あたりの人間一致率は0.60超で、GPT-5.5の0.54、Gemini-3.1-Proの0.52を上回りました。人間同士の一致率の上限は0.77なので、その約78%に届いた計算です。しかも評価コストは最も安い。

モデルの順位付けの精度も上がりました。先行のVBVRスコアラーと比べ、未知タスクでのスピアマンの ρ\rho は0.93から1.00へ、ピアソンの rr は0.92から0.95へ改善。最終的に既知タスクで ρ=0.95\rho=0.95、未知タスクで ρ=1.00\rho=1.00、両方で r≥0.95r\geq0.95 です(§3.3)。

画像・動画・インターリーブ、どれが強いのか

3つ目の柱がモダリティの統制比較です。オープンソースの生成基盤モデル9個を、すべてVBVR-Pro-Datasetで1エポック、解像度512×512で訓練しました。動画生成器と10Bを超える画像・インターリーブモデルにはrank-32のLoRA、それより小さいモデルは全パラメータの微調整。動画は16fpsです(§4.1.1)。

結果は明快でした(§4.1.2)。訓練は9モデルすべてを改善し、総合スコアの平均改善は+0.290。既知タスクで平均+0.401、未知タスクでも平均+0.179です。最良は動画モデルの VBVR-Pro-Wan2.2-I2V-A14B で総合0.670、次点がインターリーブの VBVR-Pro-SenseNova-U1 で0.638。訓練済みオープンソースが、Nano Banana Pro(0.564)やSeedream-5.0-Pro(0.557)といった強力な商用モデルを上回りました。

モダリティ間の関係はもう少し繊細です(§4.1.3)。

効いているのは言葉ではなく「途中の絵」

ここが論文でいちばん面白いところです。インターリーブモデルは画像と文章を交互に出しますが、推論を担っているのはどちらなのか。

訓練側のアブレーション(表5)では、中間の文章を意味のないプレースホルダに置き換えても総合スコアはほぼ動きませんでした(0.373→0.374、0.638→0.629)。ところが中間の視覚状態を1枚に潰すと、それぞれ0.024と0.111下がりました。

推論時の介入(表6)はもっと露骨です。素の状態が総合0.638のモデルに対して、

言い換えに動じず、画像を消すと崩壊する。中間の文章を「左」から「右」に書き換えても軽傷なのに、中間の画像を壊すと重傷。視覚の軌跡は訓練時の教師信号として強いだけでなく、推論時にも実際に使われている作業記憶だ、というのが論文の結論です(§4.2.2)。言語は補助であって、計算の主基盤ではない。

拡散のデノイジング過程を可視化すると、この様子が見えます。動画モデルもインターリーブモデルも、初期のステップで複数の候補経路を同時に探索し(Multi-Path Exploration)、複数の妥当な視覚状態を重ね描きしてから(Superposition-Based Exploration)、最終解へ収束していきます。論文はこれを Chain-of-Step と呼んでいます(§4.3)。

外部ベンチマークへの転移も測られました(表7)。最強モデル VBVR-Pro-Wan2.2-I2V-A14B は、ベースの Wan2.2-I2V-A14B と比べて V-ReasonBench で10.21→38.22、MME-CoF-Pro で24.76→48.39、VideoThinkBench-mini で25.71→52.86、BabyVision-Gen で0.36→12.50。実世界の物体やロボットアームが出てくる、手続き生成の抽象図形とはかけ離れたタスクでも伸びています。

検証可能な報酬でRLを回す

最後の柱は強化学習です(§5)。ここでの難しさは、通常の生成RLが画素の忠実度や見栄えを報酬にするのに対し、視覚推論では意味的な変換とタスク制約を満たしているかを報酬にしなければならない点にあります。

もうひとつ、探索の質という問題があります。Flow-GRPOのようなグループ相対最適化は、サンプルしたロールアウトが報酬に関わる判断で違っていることを前提にします。ところが視覚推論で意味のある違いは「迷路で左に行くか右に行くか」といった離散的で影響の大きい判断であり、通常の確率的な揺らぎは見た目だけを変えて判断は同じまま、ということが起きます。かといって単純にノイズを強めると、Flow-SDEでは η=0.7\eta=0.7 で背景のアーティファクトと輪郭の歪みが出て、η=0.9\eta=0.9 ではフレームが壊れました。

そこで採用されたのが CPS(Coefficients-Preserving Sampling) です。

xt−Δt=(1−(t−Δt))x^0+(t−Δt)cos⁡ ⁣(ηπ2)x^1+(t−Δt)sin⁡ ⁣(ηπ2)ϵx_{t-\Delta t}=\bigl(1-(t-\Delta t)\bigr)\widehat{x}_{0}+(t-\Delta t)\cos\!\Bigl(\frac{\eta\pi}{2}\Bigr)\widehat{x}_{1}+(t-\Delta t)\sin\!\Bigl(\frac{\eta\pi}{2}\Bigr)\epsilon
(3)

x^0\widehat{x}_{0} は「モデルが予測したきれいな画」、x^1\widehat{x}_{1} は「モデルが予測したノイズ」、ϵ\epsilon は新しく引いた正規乱数、η\eta は0〜1の揺らぎの強さです。噛み砕くと、ノイズの総量は変えずに、その内訳だけを「予測したノイズ」から「新しい乱数」へ振り替える式になっています。cos⁡2(ηπ/2)+sin⁡2(ηπ/2)=1\cos^{2}(\eta\pi/2)+\sin^{2}(\eta\pi/2)=1 なので、係数の二乗和は常に1のまま。η=0\eta=0 なら決定論的なODEサンプリングに戻ります。だから揺らぎを強めても画が壊れず、判断だけが多様になります。

FIG 2分布の尖り具合を1本のつまみで変える例。CPSのηも「出力の多様さ」を制御するつまみだが、こちらは総ノイズ量を保ったまま内訳だけを入れ替える点が違う

実験は VBVR-Pro-Wan2.2-TI2V-5B を出発点に、同じ5万件のRLデータ(既知50タスク)で3つを比較しました。SFT(教師あり微調整)、RLVLM(Qwen3.6-27Bを審判にしたRL)、RLVR(提案スコアラーを報酬にしたRL)。アルゴリズム・ロールアウト設定・ハイパーパラメータ・データ・初期化はすべて同じで、違うのは報酬の出どころだけです(§5.2)。

結果(表8、CPS η=0.7\eta=0.7 で統一評価)は、ベースライン0.470に対して SFT 0.503、RLVLM 0.508、RLVR 0.548。未知タスクでもベースライン0.300 → SFT 0.328 → RLVLM 0.345 → RLVR 0.377 と、RL訓練に一度も使っていない領域まで改善しました。学習曲線ではRLVRが一貫して伸び続けたのに対し、RLVLMは早々に頭打ちになり、400〜500ステップ付近で一時的に落ち込んでいます(§5.3)。

質的にも変化がありました。色列補完のタスクでは、RL前のモデルが最初の数ステップで答えを決め打ちして最後まで直さないのに対し、RLVR後のモデルは途中で予測を修正して正解に到達します。同じ30ステップのサンプリング日程なので、追加の計算時間で稼いだ差ではありません。迷路では、RL前が分断された動きしか作れなかった(スコア0.2249)のに対し、RLVR後は通路をたどって目標に到達しました(0.8692)。RLVRは、固定の計算量の中で実効的な推論の地平を伸ばし、状態遷移の時間的な一貫性を上げたことになります(§5.4)。

この論文が示していないこと

誇張しないために、範囲も書いておきます。

現場ではこう使う

誰が、いつ触るか。 動画・画像生成モデルを扱う研究者と、生成AIを製品に載せる評価担当(MLエンジニア/QA)です。使いどころは主に3つあります。

1. 評価パイプラインを組むとき。 いちばん持ち帰る価値があるのは「合成データなら正解メタデータを一緒に吐ける」という設計です。VBVR-Proは生成時に乱数シード・問題仕様・完全な解・主要要素の属性をメタデータとして保存しています(§2.2)。これがあるから、採点をVLMに投げずにルールで書けます。自社で合成評価セットを作るなら、レンダリング関数と一緒に「答えの構造化表現」を必ず吐かせてください。後から画像だけ見て採点しようとすると、そこでVLM審判に逆戻りします。

2. 報酬関数を設計するとき。 RLVRを組むなら、まず同じ入力で2回採点して差分を取る再現性テストを回してください。表2の54.6%〜92.8%という数字は、温度0でも一致しないという意味です。報酬が非決定的だと、勾配に入るのはタスク信号ではなくノイズになります。合成の合成方法(重み付き和か掛け算か)も設計項目です。「壁抜けは0点」のような破ってはいけない制約は掛け算側に置かないと、部分点で誤魔化した解が報酬を稼ぎます。

3. サンプラーの設定を決めるとき。 触るパラメータは、CPSの η\eta、ロールアウト数、デノイジングステップ数、LoRAのrankです。論文の設定は η=0.7\eta=0.7、rank-32、512×512、動画16fps。Flow-SDEで探索を強めたい誘惑に駆られたら、η\eta を上げた結果を目視で確認してください。η=0.9\eta=0.9 ではフレームが壊れて報酬まで下がった、というのが論文の実測です。

知らないと事故になる落とし穴。

面接や設計レビューで問われる形。 「生成モデルの出力をどう自動評価しますか」に対しては、①正解の構造化表現を生成時に保存できる設計にする ②画素ではなく属性で照合する ③硬い制約は乗算、緩い基準は加重和 ④同一入力での再現性を必ず測る、の順で答えられれば筋が通ります。「LLM/VLMに採点させます」で止まると、この論文が指摘した3つの失敗モードにそのまま突っ込むことになります。

関連記事

参考文献

  1. Junxiang Xu, Ruisi Wang, Fanyi Pu, Maijunxian Wang et al.. (2026-08-26) VBVR-Pro: A Scalable and Verifiable Suite for Native Visual Reasoning. arXiv:2608.26105論文ページ·PDF

本記事は上記論文の本文にもとづいて執筆しています。数値・主張は原典を優先してください。

運営: TechAthletes · 編集方針 · 出典の付け方 · 訂正の記録

コメント

コメントにはログインが必要です