体系 › LLM — 大規模言語モデル
·★ 会員·論文·18分で読めます

論文解説 Feyospace-v1 — 7人のチームが「環境」でサイバーAIを鍛えた話

7人の独立チームがオープンウェイトモデルをサイバー領域で鍛え上げた記録。鍵はモデル規模ではなく、リセット可能な実行環境と16万本の監査済み軌跡だった。論文の数字に沿って設計と限界を読み解く。

要点

  • Feyospace-v1は、実行検証と証拠監査を通った164,269本の軌跡だけで長文脈SFTを行った論文です。
  • 3つのチェックポイントは出発点に対し、CyberGym全体で平均23.76%、CTF系のプール集計で10.49%改善しました。
  • 5つの仕組みのうちChouleaの復元思考は学習に使わず、SkyRealとHongzwangは最終パイプラインで不採用です。
  • PSBreakupは領域ごとの教師から逆KL蒸留で潜在能力を回復し、Kreatorは介入ターンだけを教師自身の思考に書き直します。
対象textタスクevaluation

Feyospace-v1: How the Cyber Mercury Seven Trained Frontier Cyber Models

一次資料 — この記事の根拠

論文の発表 2026-09-08→この解説の公開 2026-09-23同月

Feyospace-v1: How the Cyber Mercury Seven Trained Frontier Cyber ModelsZongjie Li, Alan Z. W, John Nicolas J ほか · 2026-09-08 · v1arXiv:2609.08418論文ページ·PDF
原文の要旨(Abstract)を読む

Training capable cyber agents is often treated primarily as a problem of model scale, yet open-weight post-training is constrained more directly by the cost of executable environments, reliable multi-turn supervision, and access to strong teachers. We present a data-centric framework that addresses these bottlenecks through five complementary systems: Choulea analyzes hidden reasoning signatures, SkyReal reduces teacher-sampling cost, Hongzwang bypasses API restrictions on teacher execution, PSBreakup restores capabilities weakened by model merging, and Kreator converts expert interventions into trainable reasoning. Our data engine constructs resettable coding, vulnerability, CTF, kernel-history, full-exploit, firmware, and device-backed environments. Candidate trajectories are retained only after execution verification and evidence auditing, yielding 164,269 trajectories for long-context supervised fine-tuning. The three checkpoints improve over their starting models by an average of 23.76% on the full CyberGym suite and 10.49% across the pooled CTF suites. As of September 1, 2026, Feyospace-s1 achieves a verified success rate of 63.24% and ranks 10th on the official CyberGym leaderboard, while all three checkpoints rank 1st among models at comparable parameter scales. To our knowledge, this is the first end-to-end demonstration that a seven-person independent team can train open-weight models with leading agentic cyber capability.


この論文は何を主張しているのか

原題は "Feyospace-v1: How the Cyber Mercury Seven Trained Frontier Cyber Models"(arXiv:2609.08418、2026年9月8日公開、Vera Praxis Lab)です。検索・引用にはこの英語タイトルを使ってください。

要旨はこうです。サイバー能力の高いAIエージェントを作る問題は、しばしば「モデルをどれだけ大きくするか」として扱われる。だがオープンウェイトモデルのポストトレーニング(公開済みモデルを後から鍛え直す工程)で実際に詰まるのは、実行できる練習環境のコスト、何十ターンも続く作業に信頼できるお手本を付けること、強い教師モデルへのアクセスである。著者らは5つの仕組みとデータエンジンを組み合わせ、実行検証と証拠監査を通った 164,269本の軌跡だけで長文脈SFTを行いました。3つのチェックポイントは出発点のモデルに対し CyberGym 全体で平均 23.76%、CTF系のプール集計で 10.49% 改善。2026年9月1日時点で Feyospace-s1 は verified success rate 63.24%、公式 CyberGym リーダーボードで10位、3つとも同規模パラメータ帯では1位だとしています。(Abstract)

比喩: 生徒を賢くするのではなく、採点できる練習場を作る

成績を上げる方法は2つあります。生徒の地頭を良くするか、自動採点できる問題集を大量に用意するか。前者が事前学習とスケールアップで、これには巨額の計算資源が要ります。論文は後者を選びました。

ただし「採点」は模範解答との文字列比較ではありません。ソフトウェアを実際にビルドして動かし、攻撃が成立したかをプログラムで観測することです。脆弱性の再現なら、同じ攻撃コードが脆弱なビルドでは狙った異常を起こし、修正済みビルドでは起こさないことまで確認します(§3.2)。この問題集を論文は環境(environment)と呼び、使い捨てではなくリセットできることを要件にしています。

前提: ポストトレーニングは何をしているのか

言語モデルの学習は「次のトークンを当てる」ゲームです。お手本を1トークンずつ見せ、モデルの付けた確率が低ければ損失が大きくなる。その損失を下げる方向へパラメータを少し動かす——これが勾配降下法です。SFT(教師あり微調整)は、お手本を「良い振る舞いの記録」に差し替えて同じことをもう一度やる工程だと思ってください。

動かす量を決めるのが学習率です。論文は最初の5%で 1×10−51\times10^{-5} まで温め、コサイン曲線で 5×10−75\times10^{-7} へ落としています(§4.3)。なぜそこまで小さいのかは、下の図で学習率を上げてみると体感できます。

FIG 1球が谷底へ転がるのが学習。学習率スライダーを上げると、ある値から先で球が谷を飛び越えて戻らなくなる。すでに賢い巨大モデルを壊さず微調整したいので、ポストトレーニングの学習率は極端に小さい

5つの道具のうち、2つは最終的に使われていない

論文は5つの仕組みに名前を付けます。ここは切り分けて読む必要があります。

つまり、見出しの成果を支えているのは後ろの2つとデータエンジンであり、前の3つの寄与は論文自身が否定しています。

実際に効いた2つ

PSBreakup の出発点は、Kimi K3 のオンラインAPIが公開ウェイト版よりサイバー課題で明らかに強く、しかもその差が他領域では小さい、という観察でした。著者らは MOPD などのモデルマージが公開版のこの能力を弱めたと推測します。根拠は、プロンプトを工夫すればウェイトを変えずに失われた振る舞いがかなり戻ること——能力は消えたのではなく潜っている(§2.4)。PSBreakup は、ベンチマーク同士の干渉から領域の区切りを推定し(3モデルで12/8/9領域)、同じ凍結モデルから領域ごとの教師を作り、目標領域は回復方向・他領域は維持方向にトークン単位の逆KL蒸留をかけます。維持項が肝で、目標領域だけを普通にSFTすると600B超では行き過ぎて他の能力を壊しうる、と論文は述べます。

Kreator はエクスプロイト作成(EXP)向けです。教師モデルでも解けない課題が多く正例が足りないので、詰まった場面でだけ人間の専門家が「足りない1手」を与えます(環境あたり平均3.6ターン)。ただし介入をそのまま残すと、モデルは外から助けが来るのを待つことを学んでしまう。そこで介入ターンだけを教師自身の一人称の思考に書き直し、前後の検証済み軌跡はそのまま残します(§2.5)。

55個のV8環境での比較が示唆的です。外部の最強モデル(GPT-5.6 Sol)に書き直させると27件、教師自身なら32件、下流の生徒(Qwen3.8-27B)の口調なら31件が実行検証を通りました。単体で最も賢い書き手が勝つわけではない。周囲の軌跡や生徒の分布との相性のほうが効いている、というのが論文の解釈です。

データエンジン: 34万件から16万本への漏斗

経路 入口 出口
基本コーディング 3,751リポジトリ/220万PR 27,502件を処理、79.0% が有効環境化
Advanced A(実世界の脆弱性) CVE記録 343,214件 候補 119,732 → 69,854環境
Advanced B(CTF) 著者保守のCTF群 9,312環境
Advanced C(カーネル履歴) Linuxコミット 428,000件 関連 38,519 → 12,993環境
Advanced D(完全エクスプロイト) A〜Cから選抜 1,601件(参照解を再現済み)
ハードウェア 公開ファームウェア/実機 1,003再ホスト+374実機 = 1,377環境

最終的な混合データは 164,269本(基本コーディング 28,177、セキュリティ・ハードウェア 136,092)です(§3.4)。

受け入れ基準が厳しいのが特徴です。コーディング環境は修正前のコミットでテストが落ち、パッチ後に通ることを毎回新しいコンテナで確認して初めて採用(§3.1)。脆弱性環境はリセットを繰り返しても同じ異常が観測され、かつ修正版では再現しないことを求めます。Dカテゴリでは権限昇格ならHMAC由来の動的フラグ、メモリ破壊ならASan/KASANの特定クラッシュ署名、と判定を機械化しています(§3.2)。汚染対策として、解法が漏れている課題は捨て、公開ベンチマークに現れるリポジトリは丸ごと除外。カーネル由来の課題には接頭辞補完テスト(先頭だけ与えて続きを書かせ、実物と似すぎたら落とす)をかけています。この論点は[評価データの汚染](/ja/a/…

この先にあるもの

§

ここから先は会員限定です

解説記事449本・教科書42章・学生モード48単元・論文精読6本が、月額¥490ですべて読み放題になります。新しい解説は1日あたり平均3本ほど増えます。いつでも解約でき、解約後も期間の終わりまで読めます。

会員の方はログインすると続きが表示されます

参考文献

  1. Zongjie Li, Alan Z. W, John Nicolas J, Walter H. F et al.. (2026-09-08) Feyospace-v1: How the Cyber Mercury Seven Trained Frontier Cyber Models. arXiv:2609.08418論文ページ·PDF

本記事は上記論文の本文にもとづいて執筆しています。数値・主張は原典を優先してください。

運営: TechAthletes · 編集方針 · 出典の付け方 · 訂正の記録

コメント

コメントにはログインが必要です