論文解説: Beyond Data Scaling — ロボット基盤モデルは「データ量」より「表現」で決まる(VLAct)

ロボットの軌跡データはWebのように集められない。ならば限られた軌跡から「使い回せる表現」を絞り出すべきだ、という主張の論文。VLM事前分布の保護・複数ヘッド同時監督・身体をまたいだ部分統一の3点で、16GPU・全部オープンデータのまま産業系VLAを上回った。

Beyond Data Scaling: Representation-Centric Continued Pre-training for Vision-Language-Action Models

「データを集めれば強くなる」が効きにくい場所

言語や画像のモデルが強くなった理由を、私たちはつい「大量のデータを読んだから」と一言で片づけます。しかし論文が念を押すのは、Webコーパスが単に大きいのではなく、視覚と意味のばらつきを広く覆っている点でした(§1)。量そのものではなく、被覆の広さが効いていた、というわけです。

ロボットはここで壁にぶつかります。ロボットの軌跡はWebから拾ってこられません。遠隔操作なり、丁寧に設計した収集手順なりで、現実世界で身体を動かして作るしかない(§1)。しかも一般化すべき空間は、シーン・物体・タスク目標・身体形状・接触の力学が掛け算になった、連続かつ組み合わせ的なものです。結果として、どれだけ大きなロボットデータセットでも、物理的な相互作用の空間から見ればまばらな標本にとどまります。

だから論文は問いを立て直します。データを増やすのをやめようという話ではありません。「ロボットデータの予算が固定されているとき、その軌跡から転移する表現をどれだけ引き出せるか」という、量とは別の軸を独立に評価しよう、という主張です(§1)。ロボットの継続事前学習を「大規模な行動当てクイズ」ではなく、「軌跡を、背骨(バックボーン)の中に再利用可能な視覚-行動知識として蒸留する工程」として設計し直す、と言い換えてもいい。

この論文の「継続事前学習」が指すもの

用語の確認から。ここでの continued pre-training は、すでに学習済みのVLM(視覚-言語モデル)から出発し、下流のタスク別ファインチューニングの前に、広く雑多な複数身体のロボット軌跡で追加学習する段階を指します(§1)。基盤モデルをゼロから作ることではありません。論文は $\pi_0$、$\pi_{0.5}$、GR00T N1/N1.5 といった代表的な汎用VLAが同じ設定を採っており、慣例的に「VLA事前学習」と呼ばれてきたものを、より正確に言い直しただけだと述べています。

実装上のベースは Qwen3-VL-4B、学習コードは StarVLA、事前学習データは DROID・InternA1・RoboCoin・MolmoAct といった全てオープンソースのロボットデータに、表現保護用のキャプションデータを混ぜたもの。全実験が16GPUで行われています(§4)。

予備実験: 行動ヘッドが背骨の形を変えてしまう

VLAでは、背骨(VLM)の出力から実際の行動を作る部品を action head と呼びます。離散トークン型(FAST)、回帰型(OFT)、フローマッチング型(PI)、拡散系の連続型(GR00T)などがあり、どれが最適かはタスク・身体・地平・配備制約によって変わる。つまり万能のヘッドは無い(§2)。

そこで論文は背骨を Qwen3-VL-4B に固定し、事前学習と微調整で使うヘッドだけを入れ替える対照実験を行いました(§2)。分かったことは2つです。

離散監督は転移するが、情報を落とす。 FAST(離散トークン)で事前学習した背骨に連続ヘッドGR00Tを繋ぐと、GR00Tをゼロから微調整するよりわずかに良くなる。ただしFASTヘッドのまま微調整すると連続ヘッドに大きく劣り、FASTでの事前学習はその差を埋めません。離散化は行動の粗い構造は教えるが、操作に効く細かい時間・振幅の情報を落とす、という解釈です。

単一の連続ヘッドは、背骨をそのヘッド専用に潰す。 OFTで事前学習すると、下流もOFTなら大きく改善します。ところが同じ背骨にPIやGR00Tを繋ぐと性能が落ちる。行動の情報が消えたのではなく、特定のヘッドが復号しやすい形に整列してしまったと考えられます。論文はこれを decoder lock-in(復号器ロックイン)と呼び(§E.1)、「同じヘッドでの好成績は、背骨の再利用性を過大評価させる」と釘を刺しています(§2)。

VLActの3つの処方

予備実験から論文は、素朴な継続事前学習の失敗を3つに整理します。①ロボット軌跡はWebコーパスより遥かに狭いので、端から端まで更新すると汎用の視覚-言語特徴が壊れる。②単一ヘッドの監督が背骨をそのヘッドの復号幾何に特化させる。③身体ごとに出力空間を分けると、グリッパの開閉のように物理的に同じ意味の行動まで別々に学ばれる(§1)。VLAct は各々に対策を当てます。

1. VLMの事前分布を守る

視覚エンコーダ全体と、LLM層の下半分を凍結して事前学習し、上位層と行動ヘッドだけを更新します。低レベルの視覚処理と初期の視覚-言語対応を守りつつ、上位層には行動条件付きの推論を学ばせる、という切り分けです。下流の微調整では全体を解凍します。この凍結だけで LIBERO-Plus が3.7%、Agilex が3.4%改善(§3.2)。

もう一つがキャプション混合。VLMデータを混ぜるのは定石ですが、論文はどの種類が効くかを比べ、画像キャプションが最も強い支えになったと報告しています。物体・属性・空間関係・場面文脈に密な監督が入るためで、直感どおりの結果です(§3.2)。