Kairos（Physical AI向け世界モデルスタック、26 upvotes）とBeyond the Current Observation（非マルコフゲームでのMLLM評価、36 upvotes）が注目を集め、MolmoMotionやGuavaがエンボディドAIの新手法を提示。JetFlowが投機的デコーディングで9.64倍高速化を達成し、SAE介入の脆弱性を実証する安全性研究も登場した。
注目論文
Beyond the Current Observation: Evaluating Multimodal Large Language Models in Controllable Non-Markov Games
著者: Shengyuan Ding, Xilin Wei, Xinyu Fang et al.
マルチモーダル基盤モデルが「もう見えない過去の観測」に基づいて行動を条件付ける能力を、制御可能な非マルコフゲームで体系的に評価したベンチマーク研究（36 upvotes）。
新規性: マルチモーダル基盤モデルを閉ループポリシーとして展開する場面では、もはや視界にない観測に基づく行動条件付けが不可欠となる。しかし既存ベンチマークは完全状態の露出、隠れ状態の再構成と他のエージェントスキルの混同、エピソード後のリコールテストに留まっており、部分観測下での行動条件付け能力を直接測定できなかった。本研究は制御可能な非マルコフゲーム環境を設計し、この能力を隔離して評価する初の枠組みを提供する。
手法: ゲームのルールや報酬構造を動的に変化させ、エージェントが過去の観測履歴から現在見えない情報を推論して行動を選択する必要がある環境を構築する。マルコフ性の違反度合いを制御可能にすることで、各モデルの隠れ状態推論能力を段階的に評価する。
MolmoMotion: Forecasting Point Trajectories in 3D with Language Instruction
著者: Jianing Zhang, Chenhao Zheng, Yajun Yang et al.
言語指示に基づく3Dワールド座標でのポイント軌道予測を実現し、クラス非依存で汎用的な動作予測表現を提案した研究（29 upvotes）。
新規性: 動作予測は視覚的知能の中核であり、エージェントは物体の動きを予測して行動計画、物理的相互作用の推論、現実的な未来の合成を行う必要がある。本研究は3Dワールド座標のポイント軌道がクラス非依存で視点に依存しない汎用表現であると主張し、言語指示によってポイント軌道を予測するフレームワークを構築する。従来のオブジェクトレベルやセグメンテーションベースの手法と異なり、任意の物体やシーンに適用可能な表現を実現した。
手法: 視覚入力と自然言語指示を統合し、シーン内の任意のポイントの3D軌道を予測するモデルを設計する。ワールド座標系での予測により視点変化に対する頑健性を確保し、言語条件付けにより操作対象や動作の意図を柔軟に指定できる。
Kairos: A Native World Model Stack for Physical AI
著者: Kairos Team, Fei Wang, Shan You et al.
Physical AI向けのネイティブ世界モデルスタックを提案し、異種経験からの知識獲得、長期状態保持、実デプロイ環境での効率的実行を統合した研究（26 upvotes）。
新規性: 世界モデルは受動的な映像生成器からPhysical AIの基盤インフラへと移行しつつあるが、異種経験からの世界知識のネイティブな獲得、長期間にわたる永続的状態の維持、実デプロイ制約下での効率的実行という3つの要件を同時に満たすアーキテクチャは存在しなかった。Kairosはこれらを統合的に解決するスタック型アーキテクチャを提案する。
手法: 異なるモダリティやドメインからの経験データを統一的に取り込む知識獲得層、長期ホライゾンにわたる状態の永続的管理層、実環境のリソース制約に適合する推論実行層を階層的に設計する。各層が相互に連携し、単一の映像生成を超えた運用可能な世界モデルを実現する。
Guava: An Effective and Universal Harness for Embodied Manipulation
著者: Haowen Liu, Xirui Li, Shaoxiong Yao et al.
言語モデルのツール使用によるエンボディド操作の汎用ハーネスを提案し、エンドツーエンドVLAシステムの代替として高レベル推論と外部モジュールを統合した研究（23 upvotes）。
新規性: 大規模視覚言語データで訓練された言語モデルはエンボディドエージェントとして有望だが、エンドツーエンドの視覚言語行動（VLA）システムは低レベル制御の精度に限界がある。ツール使用を通じてモデルを活用するアプローチは、高レベル推論と知覚・制御の外部モジュールを組み合わせる有望な代替手段であるが、汎用的なハーネスは未確立であった。Guavaはこの統合を実現する。
手法: 言語モデルが高レベルのタスク分解と推論を担当し、知覚・把持計画・動作生成などの専門モジュールをツールとして呼び出すハーネスアーキテクチャを設計する。各モジュールのインターフェースを標準化することで、異なるタスクやロボットプラットフォームへの汎用的な適用を可能にする。
Show the Signal, Hide the Noise: Spectral Forcing for Pixel-Space Diffusion
著者: Weichen Fan, Haiwen Diao, Penghao Wu et al.
ピクセル空間拡散モデルにおいて周波数帯ごとのデータ対ノイズ比に基づく訓練信号の選択的利用を実現するスペクトル強制手法を提案した研究（18 upvotes）。
新規性: ピクセル空間拡散モデルはフル帯域のノイズ付き画像で訓練されるが、デノイザーが利用可能な有用信号は周波数に強く依存する。整流フロー拡散と自然画像のパワーロースペクトルの下で、帯域ごとのデータ対ノイズ等高線k*(t)が信号領域とノイズ領域を分離することを理論的に示し、この境界に基づいて訓練信号を選択的に利用する手法を提案した。
手法: 各タイムステップにおいて周波数帯ごとのデータ対ノイズ比を計算し、信号が支配的な帯域のみに損失を集中させるスペクトルマスキングを導入する。ノイズが支配的な高周波帯域の無駄な学習を排除することで、同一の計算予算でより効果的な訓練を実現する。
The Reward Was in Your Data All Along: Correcting Flow Matching with Discriminator-Guided RL
著者: Nicolas Beltran-Velez, Felix Friedrich, Zhang Xiaofeng et al.
フローマッチングモデルの識別器誘導型強化学習による補正手法を提案し、主観的嗜好の整合と視覚的リアリズムの回復を同時に実現した研究（16 upvotes）。
新規性: スコア・フローマッチングモデルは嗜好ベースの強化学習に依存する場面が2つある。主観的嗜好との整合と、マッチングベース訓練が本来データから学ぶべき視覚的リアリズムや物体構造の一貫性の回復である。後者は訓練データ自体に報酬信号が含まれていることを意味する。本研究はこの洞察に基づき、データから直接抽出した識別器を報酬として利用する手法を提案した。
手法: 訓練データの分布と生成サンプルの分布を区別する識別器を構築し、その出力を強化学習の報酬信号として利用する。フローマッチングモデルの生成プロセスに対してRL微調整を適用することで、外部の嗜好データなしにデータ固有の品質特性を回復する。
EfficientRollout: System-Aware Self-Speculative Decoding for RL Rollouts
著者: Minseo Kim, Minjae Lee, Seunghyuk Oh et al.
強化学習ロールアウト生成におけるシステム認識型自己投機的デコーディングを提案し、長テール応答のレイテンシボトルネックを解消した研究（16 upvotes）。
新規性: RLはLLMの代表的な後訓練パラダイムとなり強力な推論・エージェント能力を実現しているが、ロールアウト生成が主要なレイテンシボトルネックである。自己回帰サンプリングは応答を逐次デコードし、少数の長テール応答がバッチ全体を支配する。本研究はシステムレベルの特性を考慮した自己投機的デコーディングにより、追加モデルなしでこのボトルネックを解消する。
手法: 同一モデル内で投機的デコーディングを実現するself-speculative方式を採用し、GPUメモリ帯域やバッチスケジューリングなどのシステムレベル特性を最適化に組み込む。長テール応答の並列検証により、バッチ内の待ち時間を削減する。
SAE Interventions are Unreliable: Post-Intervention Recovery of Suppressed Behavior
著者: Mingyue Cui, Linghui Shen, Xingyi Yang
SAE特徴量のクランプによる安全性介入が事後的に回復可能であることを実証し、特徴レベルの制御と行動の完全性との間のギャップを明らかにした研究（15 upvotes）。
新規性: スパースオートエンコーダ（SAE）は残差ストリームの活性化を解釈可能な特徴に分解し、「危険な」特徴のクランプによる安全性介入が期待されている。しかし本研究は、クランプが行動への1つの可視的経路をブロックしても、行動自体を排除しない「回復可能な失敗モード」が存在することを示した。refusal-steering実験では介入が有効な状態でも95.8%の回復率を達成し、回復がSAE再構成残差に局在することを帰属分析で特定した。
手法: 介入後の残差状態から出発し、対象SAE特徴の介入後の値を保持しつつ介入前の行動を回復する残差空間の摂動を最適化する。単層介入にはエンコーダ直交更新、クロスレイヤー設定には特徴マップヤコビアンを使用し、回復が介入の単純な取り消しではないことを保証する。
Text-Vision Co-Instructed Image Editing
著者: Chenxi Xie, Yuhui Wu, Qiaosi Yi et al.
テキスト指示とビジュアルプロンプトを統合した画像編集手法を提案し、意味的表現力と空間的精密制御の両立を実現した研究（14 upvotes）。
新規性: 既存の画像編集手法はテキスト指示ベースとビジュアルプロンプトベースに大別される。テキスト指示は意味的に表現力が高いが空間制御の粒度が粗く、ドラッグなどのビジュアルプロンプトは空間精度は高いが意味的表現に限界がある。本研究はこの2つのモダリティを統合し、両者の長所を同時に活用する枠組みを提案した。
手法: テキスト指示による意味レベルの編集意図の指定とビジュアルプロンプトによる空間レベルの精密制御を統一的なモデル内で処理する。2つのモダリティからの条件付け情報を効果的に融合し、編集結果の意味的妥当性と空間的正確性を同時に最適化する。
JetFlow: Breaking the Scaling Ceiling of Speculative Decoding with Parallel Tree Drafting
著者: Lanxiang Hu, Zhaoxiang Feng, Yulun Wu et al.
因果並列ドラフトヘッドによる投機的デコーディングフレームワークを提案し、MATH-500で最大9.64倍の高速化を達成してスケーリング上限を突破した研究。
新規性: 投機的デコーディング（SD）は複数トークンを起草し並列検証することでLLMを加速するが、ドラフト予算の増加が速度向上に繋がるのは受理率が高くドラフトオーバーヘッドが低い場合のみであり、スケーリング上限が存在する。自己回帰ドラフターは高受理率だがコスト増大、双方向ブロック拡散ドラフターは1パスだが分岐非依存で不整合なツリーを生成する。JetFlowは1フォワードの効率性と分岐ごとの因果条件付けを組み合わせてこのジレンマを解決する。
手法: 凍結したターゲットモデルの融合隠れ状態上に因果並列ドラフトヘッドを訓練し、候補ツリーのスコアがターゲットモデルの自己回帰分解と整合するようにする。これによりより大きなドラフト予算をより長い受理プレフィックスに変換し、H100上でMATH-500で9.64倍、オープンエンド会話で4.58倍のスピードアップを達成する。
分野別の動向
エンボディドAI・世界モデル
本日はPhysical AIとエンボディド操作に関する研究が複数の注目を集めた。Kairos（26 upvotes）は世界モデルを単なる映像生成器から運用可能なインフラへと再定義するスタック型アーキテクチャを提案し、Guava（23 upvotes）はツール使用ベースの汎用操作ハーネスでエンドツーエンドVLAの代替経路を示した。MolmoMotion（29 upvotes）は言語指示による3Dポイント軌道予測という新しい表現を提案し、PAIWorld（5 upvotes）は3D整合性を持つ世界基盤モデルでロボット操作を支援する。arXivからはWorldLinesが長期間のエンボディド家庭支援ベンチマークを提供している。これらの研究群は、世界モデルとエンボディドAIが個別技術から統合的なシステムへと移行しつつある傾向を示している。
マルチモーダル評価・推論
Beyond the Current Observation（36 upvotes）は非マルコフゲーム環境でMLLMの部分観測下での推論能力を初めて隔離評価し、既存ベンチマークの盲点を明確にした。arXivからはCEO-Bench（エージェントの500日間のスタートアップ経営シミュレーション）やiOSWorld/MyPCBenchがパーソナルインテリジェンスを測定するベンチマークを提案している。前日のGameCraft-Benchと合わせ、エージェント評価が単純なタスク成功率から長期ホライゾン・部分観測・パーソナライゼーションといった現実的な条件へと拡張されている傾向が顕著である。
推論高速化・効率化
JetFlowとEfficientRollout（各16 upvotes）が投機的デコーディングの異なる側面を攻略した。JetFlowは因果並列ドラフトヘッドでドラフト品質とコストのトレードオフを解消しMATH-500で9.64倍を達成、EfficientRolloutはRLロールアウト特有の長テール問題をシステム認識型最適化で解決した。arXivからはGaussian Mixture Attention（線形時間シーケンス混合）やDual Dimensionality（距離適応型KV表現）も登場しており、Transformerの計算効率化が推論サービング、RL訓練、アーキテクチャ設計の各レベルで同時に進展している。前日のLoopCoder-v2がアーキテクチャレベルの効率化を示したのに対し、本日はデコーディングとシステム最適化に焦点が移っている。
拡散モデル・生成モデル
Show the Signal, Hide the Noise（18 upvotes）はピクセル空間拡散モデルの訓練に周波数領域の理論的洞察を導入し、The Reward Was in Your Data All Along（16 upvotes）はフローマッチングモデルの品質回復にデータ内在の報酬信号を活用した。Text-Vision Co-Instructed Image Editing（14 upvotes）はテキストとビジュアルの共同指示による編集を実現し、Sumi（8 upvotes）はオープンソースの均一拡散言語モデルをスクラッチから大規模に事前訓練した。前日のOPSD for dLLMs（69 upvotes）が拡散型LLMの自己蒸留を開拓したのに連続し、拡散ベースの生成モデルが画像・言語の両領域で活発に研究されている。
安全性・解釈可能性
SAE Interventions are Unreliable（15 upvotes）は、解釈可能性ツールとして注目されるSAEの安全性介入が行動レベルでは不完全であることを厳密に実証し、特徴制御と行動制御のギャップという根本的な問題を提起した。arXivからはRepSelect（LLMアンラーニングの表現選択性による堅牢化）、PreUnlearn（アンラーニング前の影響監査）、Self-CTRL（自己一貫性訓練）、Beyond Safe Data（事前訓練段階での安全性反省挿入）が登場している。前日のRift・STATEWITNESSに続き、LLMの安全性保証がモデル内部の表現・メカニズムレベルで詳細に検討される傾向が継続している。