論文解説: Realtime-Venus — 話しながら裏で仕事を回す「全二重+非同期委譲」の対話AI
聞く・話す・裏で調べるを同じ1秒刻みの時間軸に載せ、会話を止めずに外部ツールへ仕事を委ねる9Bモデル群とハーネスの設計を、比喩と式と擬似コードで1から解説する。
要点
- Realtime-Venus は、別々に学習した2つの9Bモデル(映像+音声用の Omni と音声用の Audio)からなる能動的な全二重対話システムである。
- 各モデルは知覚・会話制御・音声生成を1つにまとめた窓口で、ユーザー入力・モデル出力・委譲イベントを共有の時間軸に載せる。
- 会話は1秒単位のチャンクに刻まれ、モデルは毎秒「聞く」か「話す」を選び、裏への依頼は <delegate>…</delegate> で自然文として出す。
- 判断は応答文と同じ意味表現から出るため、相づちなら話し続け、訂正や新しい依頼なら未再生の続きだけを作り直す。
- 全二重ベンチマークで、相づち・他者宛て発話・背景音声のもとで話を続ける率は 97%・88%・86% だった。
Realtime-Venus: A full-duplex interaction system with asynchronous delegation
一次資料 — この記事の根拠
論文の発表 2026-09-12→この解説の公開 2026-09-281か月後
Realtime-Venus: A full-duplex interaction system with asynchronous delegationVenus Team, Ant Group · 2026-09-12 · v2arXiv:2609.13814論文ページ·PDF原文の要旨(Abstract)を読む
Natural interaction in digital and physical environments requires continuous perception and timely responses. Spoken dialogue relies on acoustic and linguistic cues, while video interaction also requires grounding the conversation in evolving visual context. We present Realtime-Venus, a proactive full-duplex interaction system with two separately trained 9B models: Realtime-Venus-Omni for audio-visual interaction and Realtime-Venus-Audio for spoken interaction. Each model serves as a complete conversational frontend, integrating continuous perception, conversational control, and native speech generation through a shared causal timeline for user inputs, model outputs, and delegation events. A dual-loop runtime coordinates live interaction with background reasoning and tool execution. Foreground interaction continues while Realtime-Venus-Harness executes tasks asynchronously and returns results for integration into the ongoing dialogue. Both models follow a common post-training recipe combining offline understanding, proactive full-duplex trajectories, and delegation workflows. Among the evaluated online models, Realtime-Venus-Omni achieves the highest scores on six of eight video benchmarks, including StreamingBench (70.2%), OVO-Bench (64.7%), and Daily-Omni (81.3%). Across eight audio understanding and spoken question answering benchmarks, Realtime-Venus-Audio leads the compared models on MMAU (78.0%), MMAU-Pro (63.2%), Llama Questions (83.8%), and Speech CMMLU (67.8%), while matching the best VoiceBench AlpacaEval score of 4.81. On Full-Duplex-Bench v1.5, Realtime-Venus-Audio responds to 75% of user interruptions and achieves continuation rates of 97%, 88%, and 86% under backchannels, other-directed speech, and background speech, respectively, exceeding Gemini 3.1 Live and GPT-4o on all three continuation metrics.
電話しながら同僚にメモを渡す受付係
本稿の論文は、Ant Group の Venus Team と清華大学による "Realtime-Venus: A full-duplex interaction system with asynchronous delegation"(arXiv:2609.13814)です。
要旨をまとめます。自然な対話には途切れない知覚と適時の応答が要り、映像を伴う対話では変わり続ける視覚文脈に会話を結びつける必要もある。著者らは、別々に学習した2つの9Bモデル——映像+音声用の Realtime-Venus-Omni と音声用の Realtime-Venus-Audio——からなる能動的な全二重対話システムを提案する。各モデルは知覚・会話制御・音声生成を1つにまとめた窓口で、ユーザー入力・モデル出力・委譲イベントを共有の時間軸に載せる。二重ループの実行系のもと、Realtime-Venus-Harness が裏でタスクを非同期に実行し、結果を進行中の対話へ戻す。評価ではオンラインモデル中で映像ベンチマーク8本中6本が最高点、全二重ベンチマークでは相づち・他者宛て発話・背景音声のもとで話を続ける率が 97%・88%・86% だった(Abstract)。
比喩で言えば、電話を切らずに隣の同僚へメモを渡して調べ物を頼む受付係です。相手が「うんうん」と相づちを打っても話を止めず、「やっぱり明後日で」と言われたら、まだ口にしていない続きだけを言い直す。同僚が答えを持って戻れば、話の切れ目でそれを伝える。従来の「相手が黙ったら話し、話し始めたら止まる」トランシーバー方式を、聞く・話す・頼む・受け取るを同じ時計で同時に回す方式に置き換える、というのが本論文です。
直感: 1秒ごとに3本の流れを編み込む
会話は1秒単位のチャンクに刻まれ、各チャンクで3本の流れが揃えられます(§4.3)。
- ユーザーの流れ: 映像と音声の特徴。モデルが話している間も止まらない
- アシスタントの流れ: 表示文、音声トークン、表に出ない「委譲の依頼文」
- 裏方の流れ: 裏の仕事の結果。未完了なら何も入らないので、表の会話は待たされない
モデルは毎秒「聞く <|listen|>」か「話す <|speak|>」を選び、話し終えたら <|turn_eos|> で番を閉じます(§4.1)。裏へ頼むときは <delegate>…</delegate> で自然文を出し、これは画面にも音声にも出ません。結果は <backend>…</backend> として後のチャンクの入力に差し込まれます(§4.3)。
判断は応答文と同じ意味表現から出るので、重なった音声を一律に「止まれ」とは扱いません(§4.4)。相づちなら話し続け、訂正や新しい依頼なら古い応答を打ち切り、すでに再生した音声はそのまま、未再生の続きだけを作り直します。論文は割り込みへの対応を「止めて捨てる」「新しい情報を入れて言い直す」「今の話を保留して新しい依頼に移る」の3通りに分け、どれを選ぶかと、その後に何を話すかを一緒に学習させています。音の重なり方が似ていても意味が違えば違う続きを出せる、というのが VAD(音声区間検出)任せの二値反応との違いです。
コメント
コメントにはログインが必要です