動画生成モデルの視覚推論能力を問うVGI-Benchが170 upvotesで首位、情報と情動を分離した二重脳型の対話メモリVoiceMemが166 upvotesで続いた。大規模並列シミュレーション下でのoff-policy RL再設計や、実行中に自己改善するエージェントなど、既存手法の前提条件を問い直す研究が並んでいる。
注目論文
VGI-Bench: Probing Visual Intelligence in Video Generation Models
著者: Xuan He, Cong Wei, Yuhao Cheng et al.
近年の研究は、動画生成モデルが生成フレームを通じてある種のゼロショット視覚推論を示しうることを示唆している（170 upvotes）。しかし信頼できる評価は依然として難しく、ベンチマークは現行の動画モデルの視覚事前分布に整合した入力を採用し、妥当な過程の進行を要求する必要がある。
新規性: 「動画生成モデルは推論できるか」という問いを、評価入力の設計問題として捉え直した点が中核である。動画モデルに推論タスクを解かせようとすると、失敗が推論能力の欠如によるのか、そもそも入力がモデルの視覚事前分布から外れていて何も生成できていないのかが切り分けられない——テキストで書かれたパズルを画像として与えれば、多くのモデルは推論以前に読めない。入力をモデルの視覚事前分布に整合させ、かつ有効な過程の進行を要求するという設計は、この交絡を除いたうえで視覚推論の有無を測るためのものであり、前日のPAWBenchが動画生成モデルを分布整合性の観点から問うたのに対し、こちらは推論能力そのものの測定可能性を問題にしている。
手法: 現行の動画生成モデルの視覚事前分布に整合した入力を用い、生成過程が有効に進行することを要求する形でタスクを構成し、ゼロショット視覚推論能力を測るベンチマークを構築する。
VoiceMem: Streaming Dual-Brain Memory for Real-Time Interaction
著者: Zhifei Xie, Jiaqi Lang, Ze An et al.
デュプレックス音声言語モデル（SLM）などの対話システムは、ストリーミングで動作し正確かつ共感的なメモリ機構を、その「魂」として依然として欠いている（166 upvotes）。VoiceMemは、並列に動作する情報処理の左脳と情動の右脳、およびストリーミングのメモリI/O機構からなるシンプルなメモリアーキテクチャである。
新規性: 対話メモリを単一の記憶ストアではなく、情報と情動という異なる性質の2系統に分離した点が中核である。事実の想起と感情的な文脈の保持は、更新の頻度も、参照のタイミングも、劣化の許容度も異なる——「先週の会議は水曜だった」は正確さが要るが、「相手が落ち込んでいた」は近似で足りるかわりに応答の全体に効き続ける。両者を単一の埋め込み空間に押し込めば、片方の精度がもう片方に引きずられる。左右脳を並列に置く構成はこの干渉を構造で回避するものであり、さらにストリーミングのメモリI/Oを備えることで、発話が終わるのを待たずに記憶の読み書きを進める——リアルタイム対話では、記憶処理が発話境界でブロックする時点で遅延要件を満たせない。
手法: 情報処理を担う左脳と情動を担う右脳を並列に配置し、ストリーミングのメモリI/O機構を組み合わせたメモリアーキテクチャを構成し、デュプレックス音声言語モデルへ適用する。
WarpSAC: Towards the Pinnacle of Scalable Off-policy RL by Rethinking Exploration and Exploitation
著者: Zihao Wu, Hongyao Tang, Yi Ma et al.
大規模並列シミュレーションは、off-policy強化学習が訓練されるデータレジームを変化させ、データが限られたリプレイを前提に設計された安定化手法に疑問を投げかける（135 upvotes）。8つのベンチマーク群にわたる統制実験を通じ、本研究はこれらの安定化手法がデータレジーム依存であることを示す。
新規性: off-policy RLの標準的な安定化手法を、普遍的な改善ではなくデータ量の条件に紐づいた対処として位置づけ直した点が中核である。ターゲットネットワークやエントロピー正則化といった機構は、少数のサンプルを繰り返し再利用するリプレイ環境で過大評価や早期収束を防ぐために導入されたが、大規模並列シミュレーションが常時新鮮なデータを供給するレジームでは、同じ機構が学習を遅らせる側に回りうる。8ベンチマーク群にわたる統制実験でこの依存性を示したうえで探索と活用を再設計する構成は、手法の優劣ではなく適用条件を明示するものであり、前日のES対GRPO比較研究と同じく、既存パラダイムの advantage scope を特定する方向に属する。
手法: 8つのベンチマーク群にわたる統制実験で既存安定化手法のデータレジーム依存性を示し、大規模並列シミュレーション下での探索と活用を再設計したoff-policy RLアルゴリズムを構成する。
PILOT in the Loop: Live Self-Improvement for Long-Horizon Agents
著者: Yang Xiao, Yusong Sun, Haoyi Wu et al.
長期ホライズンのエージェント実行は、現在のランと将来の作業の双方を改善しうる経験を生成する（27 upvotes）。しかし大半の自己改善手法はこの経験を実行終了後にのみ処理するため、進行中のランを軌道修正することも、そこから得た教訓を即座に適用・検証することもできない。
新規性: 自己改善のタイミングを実行後から実行中へ移した点が中核である。事後的な自己改善は、失敗が確定してから教訓を抽出する構造上、その教訓が正しかったかを検証できるのは次のラン以降になる——長期ホライズンのタスクでは1ランが数十ステップに及ぶため、誤った教訓を抱えたまま丸ごと1回分を消費することになる。実行中に学習内容を適用し、同じラン内で有効性を確かめる構成は、教訓の抽出と検証のループを実行の内側へ畳み込むものであり、前日のTaoLiveやJIT-Agentがハーネス側の実行時進化を扱うのに対し、こちらは経験の処理タイミングそのものを設計変数として扱っている。
手法: 長期ホライズンの実行中に生成される経験をその場で処理し、進行中のランの軌道修正と学習内容の即時適用・検証を行う自己改善フレームワークを構成する。
Is Next-Chunk Reasoning RL Really Better than SFT? Revisiting Training Strategies under no-CoT Data
著者: Yinhao Tang, Youqing Fang, Yanan Sun et al.
近年の研究は、no-CoTデータ——解答例や教科書の導出のように推論に富むが明示的なchain-of-thought注釈を欠くコーパス——を活用するためのnext-chunk reasoning RLを提案している（21 upvotes）。この手法はモデルに暗黙的な推論トレースを生成させ、それを報酬によって評価する。
新規性: 提案手法の追認ではなく、SFTという単純なベースラインに対する優位性が本当に成立するかを検証対象に据えた点が中核である。no-CoTデータは推論に富む一方で、その推論過程が明示されていないため、モデルに欠落部分を補わせるという発想は自然であり、RLによる報酬設計はその補完を学習させる方法として提案されてきた。しかし暗黙の推論トレースに与える報酬が実際に推論の質を測れているのか、それとも最終出力の一致を回りくどく再現しているだけなのかは自明ではない——後者であればSFTで十分ということになる。訓練戦略を再検証するという構成は、手法の新規性より比較の妥当性を優先する立場を取っている。
手法: 明示的なCoT注釈を欠く推論豊富なコーパスを対象に、next-chunk reasoning RLとSFTを統制された条件下で比較し、訓練戦略の選択を再検証する。
Open-MOPD: Diagnosing and Fixing Capability Imbalance in Multi-Teacher On-Policy Distillation
著者: Huan-ang Gao, Haohan Chi, Yong Yan et al.
多教師on-policy蒸留（M-OPD）は、ドメイン特化した複数の強化学習エキスパートを、密なトークンレベルの報酬監督を通じて単一の汎用生徒モデルへ統合する有望なパラダイムとして登場した（20 upvotes）。実用上の成功にもかかわらず、多教師蒸留を支配する最適化ダイナミクスは十分に解明されていない。
新規性: 多教師蒸留の失敗様式を「能力の偏り（capability imbalance）」として同定し、診断可能な対象にした点が中核である。複数の専門家を一つの生徒へ統合する際、各教師が与える密な監督信号は同じ強度で競合するわけではない——ある領域の教師が一貫して強い勾配を出せば、生徒はその領域に引き寄せられ、他領域の能力が伸びないまま全体としては「成功した蒸留」に見える。この偏りを最適化ダイナミクスの解析から特定し是正する構成は、前日のSelf-OPDが教師の必要性そのものを問うたのに対し、教師が複数ある場合の配分問題を扱っており、on-policy蒸留の適用範囲が単一教師から多教師へ広がる過程で生じた課題に応えている。
手法: 多教師on-policy蒸留の最適化ダイナミクスを解析して能力の偏りを診断し、それを是正する仕組みを導入して単一の汎用生徒モデルへの統合を改善する。
Zero-WAM: In-Context World-Action Modeling from Human Videos for Open-Ended Task Generalization
著者: Jiaming Zhou, Qihang Zhang, Gangwei Xu et al.
訓練時に見たことのない操作タスクを方策が実行するゼロショットのタスク横断汎化は、ロボット学習における中心的な課題であり続けている（17 upvotes）。大規模言語モデルでは、新規タスクは文脈で指定するだけでパラメータ更新なしに実行できる——この形の文脈内学習をロボット操作へ持ち込む。
新規性: LLMの文脈内学習という枠組みを、テキストではなく人間の動画を文脈としてロボット方策へ移植した点が中核である。ロボット学習における新規タスクへの対応は、これまで追加のデモンストレーションによる微調整が前提だったが、その都度パラメータを更新する構成は、タスクの多様性がスケールした瞬間に破綻する。人間が作業する動画を文脈として与え、world-actionモデルをその場で構成するという発想は、タスクの指定をデータではなく入力として扱い直すものであり、前日のGameWAMが世界ダイナミクスと行動決定の統合を扱ったのと同じWorld Action Modelの系譜を、ゼロショット汎化の側から拡張している。
手法: 人間の動画を文脈として与え、パラメータ更新なしにworld-actionモデルを文脈内で構成することで、未学習の操作タスクへゼロショット汎化するロボット方策を実現する。
Video-IFBench: Evaluating Instruction Following of Multimodal LLMs in Video Understanding Scenarios
著者: Hongbo Liu, Peixian Chen, Sihan Liu et al.
マルチモーダル大規模言語モデル（MLLM）は動画理解において高い性能を示しているが、この領域における指示追従能力は十分に検証されていない（16 upvotes）。実世界の動画理解では、モデルは動画内容を正しく解釈するだけでなく、多様な指示上の要求を満たすことも求められる。
新規性: 動画理解の評価軸を、内容理解の正確さから指示への追従へ拡張した点が中核である。既存の動画ベンチマークは「何が起きたか」を正しく答えられるかを測るが、実際の用途では出力の形式、粒度、対象範囲、除外条件といった指示上の制約が同時にかかる——動画を正しく理解していても、要求された形式で出力できなければ下流のシステムでは使えない。内容理解と指示追従を分離して測る構成は、同日のVGI-Benchが動画生成側の推論能力を切り分けようとするのと対をなし、動画領域の評価が単一の総合スコアから能力の分解へ向かっていることを示す。
手法: 動画理解シナリオにおいて多様な指示上の要求を課すタスク群を構成し、マルチモーダルLLMの指示追従能力を内容理解と分離して評価するベンチマークを構築する。
SWE Refactor Bench: Can Coding Agents Complete a Long-Horizon, Whole-Repository Stack Migration?
著者: Deyao Hong, Yizhe Chi, Wenyi Li et al.
現代のソフトウェアシステムは数十年の開発を通じて技術的負債を蓄積し、移行作業を高コストかつ大半が手作業のものにしている（14 upvotes）。コーディングエージェントがバグ修正で能力を高めるなか、こうした移行を自律的に遂行できるかを既存ベンチマークは答えられない。
新規性: コーディングエージェントの評価対象を、局所的なバグ修正からリポジトリ全体に及ぶスタック移行へ引き上げた点が中核である。既存のSWEベンチマークは1つのissueに対する1つのパッチを問うため、変更の影響範囲が限定され、成否も単一のテストスイートで判定できる——一方でスタック移行は、依存関係、ビルド設定、API呼び出し、テストコードが連鎖的に変わり、途中まで正しい変更が全体としては壊れているという状態が長く続く。長期ホライズンでリポジトリ全体を対象とする構成は、エージェントが局所的な正しさを積み上げて大域的な整合に到達できるかを問うものであり、同日のPILOTやThe Handoff Taxと同じく、長時間稼働するエージェントの実運用条件に評価を近づけている。
手法: リポジトリ全体のスタック移行という長期ホライズン課題を対象に、既存ベンチマークが扱えない大域的な変更の遂行能力を測る評価基盤を構築する。
The Handoff Tax: Continuing Non-Native Trajectories in LLM Agents
著者: Roy Ganz, Mor Shpigel Nacson, Adi Kalyanpur et al.
コーディングエージェントは数十回のモデル呼び出し、ツール使用、コード編集にまたがる長時間タスクを遂行する（13 upvotes）。実行が進むなかでユーザーは実践的なコストと品質のトレードオフに直面する——安価なモデルが行き詰まったときに強いモデルへエスカレートするか、難しい推論が済んだ後に安価なモデルへ落とすか。
新規性: モデル切り替えのコストを、単価差ではなく「他のモデルが書いた軌跡を引き継ぐこと自体の代償」として定式化した点が中核である。実運用では強いモデルと安価なモデルを使い分けるのが当然の最適化に見えるが、交代したモデルは自分が生成していない文脈——別のモデルの推論の癖、途中で置いた前提、暗黙の方針——を引き継ぐことになり、その解釈にかかる負荷が切り替えの利得を相殺しうる。この負荷をhandoff taxとして測定可能にする構成は、マルチモデル運用の設計に定量的な根拠を与えるものであり、コスト最適化が実際にコスト最適なのかを問うている。
手法: 実行途中でのモデル切り替え（強いモデルへのエスカレーションおよび安価なモデルへのダウンシフト）が長時間稼働するコーディングエージェントに課すコストと品質の代償を定量化する。
分野別の動向
評価手法
今日は評価ベンチマークの提案が目立つ日となった。VGI-Benchは動画生成モデルの視覚推論を、入力がモデルの視覚事前分布に整合しているかという交絡を除いたうえで測ろうとし、Video-IFBenchは動画理解の評価を内容理解と指示追従に分解する。SWE Refactor Benchはコーディングエージェントの評価を単一issueのパッチからリポジトリ全体の移行へ引き上げた。共通しているのは、既存ベンチマークが「何を測れていないか」を先に特定してから設計に入る姿勢であり、総合スコアの更新ではなく能力の分解へ関心が移っている。
事後学習・強化学習
WarpSACは大規模並列シミュレーションという新しいデータレジームの下で、既存のoff-policy RL安定化手法が実は少データ前提の対処だったことを8ベンチマーク群で示した。Is Next-Chunk Reasoning RL Really Better than SFT?は同じ構図をno-CoTデータの訓練戦略で問い、RLの優位性がSFTに対して本当に成立するかを再検証する。Open-MOPDは多教師on-policy蒸留の能力偏りを最適化ダイナミクスから診断した。いずれも新手法の提案よりも、既存手法がどの条件下で有効なのかという適用範囲の特定に重心がある。
エージェント
PILOT in the Loopは自己改善のタイミングを実行後から実行中へ移し、教訓の抽出と検証を同一ラン内に畳み込む。The Handoff Taxは長時間実行中のモデル切り替えが、単価差では説明できない引き継ぎコストを課すことを定量化した。SWE Refactor Benchが問う長期ホライズンの遂行能力と合わせ、エージェント研究の焦点が単発のタスク成功率から、数十ステップ規模の実行を通じて品質をどう維持するかへ移っていることが読み取れる。
マルチモーダル・具現化AI
VoiceMemは対話メモリを情報処理と情動の2系統に分離し、ストリーミングのI/Oと組み合わせることでリアルタイム対話の遅延要件に応える。Zero-WAMは人間の動画を文脈として与えることでロボット操作の新規タスクへパラメータ更新なしに汎化する。前者は記憶の性質による分離、後者はタスク指定をデータから入力へ移す再構成であり、どちらもLLMで確立された仕組み（並列処理と文脈内学習）を、それぞれの領域固有の制約に合わせて作り直している。