DeepSeek-V4がCSA/HCA混合アテンションで100万トークンコンテキストの実用化を推進し、Moebius（96 upvotes）が0.2Bパラメータで10Bレベルのインペインティング性能を達成。DragMesh-2やPlayful Agentic Robot Learningがエンボディド操作の新手法を提示し、S-Agentが空間ツール使用でVLMの3D推論を拡張した。
注目論文
DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence
著者: DeepSeek-AI et al.
1.6Tパラメータ（49B活性化）のDeepSeek-V4-Proと284Bパラメータ（13B活性化）のDeepSeek-V4-Flashの2つのMoE言語モデルを公開し、100万トークンコンテキストを実用的な効率で処理可能にした研究。
新規性: 100万トークンコンテキスト設定において、DeepSeek-V3.2比で単一トークン推論FLOPsを27%、KVキャッシュを10%に削減した。Compressed Sparse Attention（CSA）とHeavily Compressed Attention（HCA）を組み合わせた混合アテンションアーキテクチャ、残差接続を拡張するManifold-Constrained Hyper-Connections（mHC）、収束速度と訓練安定性を向上させるMuonオプティマイザという3つの技術的革新を統合している。DeepSeek-V4-Pro-Maxはオープンモデルのstate-of-the-artを更新した。
手法: 32T以上の多様で高品質なトークンで事前訓練を行い、包括的な後訓練パイプラインで能力を引き出す。CSAは疎な注意パターンで長距離依存を効率的に捉え、HCAはKVキャッシュを大幅に圧縮する。両者の組み合わせにより、100万トークンコンテキストの日常的なサポートと長期ホライゾンタスクのテスト時スケーリングを実現する。モデルチェックポイントはHugging Faceで公開されている。
Moebius: 0.2B Lightweight Image Inpainting Framework with 10B-Level Performance
著者: Kangsheng Duan, Ziyang Xu, Wenyu Liu et al.
0.2Bパラメータという極めて軽量なモデルで10Bレベルの産業基盤モデルに匹敵するインペインティング性能を達成したフレームワーク（96 upvotes）。
新規性: 10Bレベルの産業基盤モデルは画像インペインティングの限界を押し広げているが、その膨大な計算コストが実用的なデプロイを著しく阻害している。タスク特化型の高度に最適化されたスペシャリストの構築は有望な解決策だが、極端な構造圧縮は品質劣化を不可避的に引き起こす。Moebiusはこの圧縮による劣化を克服し、50倍のパラメータ削減にもかかわらず同等以上の性能を実現した。
手法: タスク特化の構造最適化により、汎用基盤モデルの冗長な容量を排除しつつインペインティングに必要な表現能力を保持する。軽量アーキテクチャの設計とタスク固有の訓練戦略の組み合わせにより、パラメータ効率と生成品質のトレードオフを大幅に改善する。
DragMesh-2: Physically Plausible Dexterous Hand-Object Interaction with Articulated Objects
著者: Tianshan Zhang, Yijia Duan, Yanjun Li et al.
関節付き物体に対する物理的に妥当な多指ハンドインタラクションを実現した研究（61 upvotes）。
新規性: 関節付き物体の器用な操作は家庭用、支援用、ヒューマノイド操作で重要だが、静的物体の操作とは本質的に異なる。ターゲット部品は他の部品との関節拘束の下で動くため、接触パターンの適合的な計画が必要になる。本研究は多指ハンドによる関節付き物体操作の物理的妥当性を保証する手法を提案した。
手法: 関節拘束を明示的にモデル化し、多指ハンドの接触パターンを関節構造に適応させる。物理シミュレーションとの整合性を保ちながら、平行グリッパーでは困難な柔軟な接触パターンを多指ハンドで実現する。
Playful Agentic Robot Learning
著者: Junyi Zhang, Jiaxin Ge, Hanjun Yoo et al.
明示的なタスク指示なしに自発的な探索でスキルを獲得するPlayful Agentic Robot Learningのパラダイムを提案した研究（35 upvotes）。
新規性: 現在のエージェント型ロボットシステムは実行可能なCode-as-Policyプログラムの記述、フィードバックの観察、複数試行にわたる行動の修正が可能だが、再利用可能なスキルの獲得は明示的な指示の後にのみ行われる。本研究は「遊び」を通じた自発的探索により、指示なしにスキルを発見・獲得するパラダイムを提案した。
手法: エンボディドエージェントが環境との自由な相互作用を通じて行動レパートリーを自律的に拡張する。探索中に発見した有用な行動パターンをスキルとして抽出・蓄積し、後のタスク遂行に転用可能な形で保持する。Code-as-Policyによるプログラム生成とフィードバックループを組み合わせ、再利用可能なスキルライブラリを構築する。
S-Agent: Spatial Tool-Use Elicits Reasoning for Spatial Intelligence
著者: Yalun Dai, Hao Li, Shulin Tian et al.
空間ツール使用によるエージェント型パラダイムでVLMの3D空間推論能力を引き出す研究（27 upvotes）。
新規性: 実世界の空間知能は連続的かつ動的に変化する3D世界にわたる推論を必要とするが、既存のVLMやツール拡張エージェントは静的で状態を持たない、個別の視覚観察からの推論に留まっている。S-Agentは空間ツール使用というエージェント型パラダイムにより、連続的な3D世界理解を実現する。
手法: 3D空間上の操作を実行するツール群をVLMに提供し、ツール呼び出しの連鎖を通じて空間的推論を段階的に実行する。静的な1回の推論ではなく、ツール使用を介した反復的な空間情報の取得と統合により、複雑な3D空間推論タスクを解決する。
Multi-LCB: Extending LiveCodeBench to Multiple Programming Languages
著者: Maria Ivanova, Pavel Zadorozhny, Rodion Levichev et al.
LiveCodeBenchを複数プログラミング言語に拡張し、汚染認識型のLLMコード生成評価を多言語化したベンチマーク研究（26 upvotes）。
新規性: LiveCodeBench（LCB）は競技プログラミング問題を活用した汚染認識型LLMコード生成ベンチマークとして広く採用されているが、対象言語が限定されていた。本研究はLCBを複数プログラミング言語に拡張し、言語横断的なコード生成能力の評価を可能にした。リリース日によるフィルタリングにより汚染認識型評価を多言語設定でも維持する。
手法: 競技プログラミング問題を複数言語のテストケースとソリューション検証に拡張し、各言語固有の構文・ライブラリ使用パターンを考慮した評価基盤を構築する。新しい問題の継続的追加により、時間経過に伴うデータ汚染の影響を制御する。
Beyond Static Leaderboards: Predictive Validity for the Evaluation of LLM Agents
著者: Dhaval C. Patel, Kaoutar El Maghraoui, Shuxin Lin et al.
LLMエージェント評価における予測的妥当性の重要性を、14の並行実装研究と7つの既存ベンチマークの統合分析で実証した研究（20 upvotes）。
新規性: エージェントベンチマークは急速に増加しているが、デプロイ環境が露出する次元の4〜5個以上をカバーするベンチマークは存在しない。集約スコアによるリーダーボードは分布外設定に転移せず、ランキングが不安定であることを公開コンペティションの事後分析で実証した。本研究はin-sample平均の代わりに予測的妥当性（in-sampleとout-of-sampleのランク相関）による構成のランキングを提案する。
手法: MCPベースの産業エージェントベンチマーク上で14の並行実装研究を統合し、新資産クラス、代替オーケストレーション、検索戦略、推論モード、インフラ最適化、評価方法論の各次元を網羅する12層の測定装置を構築した。3つの反証可能な分布外基準と明示的閾値を設定する。
FreeStyle: Free Control of Style-Content Dual-Reference Generation from Community LoRA Mining
著者: Jinghong Lan, Wei Cheng, Yunuo Chen et al.
コミュニティLoRAのマイニングによるスタイル・コンテンツ二重参照画像生成の自由な制御を実現した研究（18 upvotes）。
新規性: スタイル・コンテンツ二重参照生成はコンテンツ参照の構造・意味を保持しつつスタイル参照のスタイルを採用する画像を合成する課題だが、コンテンツの忠実性とスタイルの適用度のバランスが困難であった。FreeStyleはコミュニティで共有されているLoRAモデルをマイニングすることで、追加訓練なしにこのバランスを実現する。
手法: 大規模なコミュニティLoRAリポジトリからスタイル情報を抽出し、コンテンツ参照との組み合わせを最適化する。LoRAの重み空間での操作により、スタイルの強度やコンテンツの保持度を柔軟に制御可能にする。
FlowBender: Feedback-Aware Training for Self-Correcting Conditional Flows
著者: Daniel Gilo, Sven Elflein, Ido Sobol et al.
条件付き拡散・フローモデルが入力条件を満たさない生成を行う問題に対し、フィードバック認識型訓練による自己補正を実現した研究（15 upvotes）。
新規性: 条件付き拡散・フローモデルはタスクを定義する制約条件を日常的に違反する。例えば深度条件付きモデルが生成画像から再抽出した深度が入力深度と不一致になるケースである。順方向演算子が制約を定義する場合でも、この違反は発生する。FlowBenderはフィードバックループを訓練に組み込むことで、生成結果が条件を自己充足するよう学習させる。
手法: 生成結果に対して順方向演算子を適用し、その出力と入力条件との差分をフィードバック信号として訓練損失に組み込む。このフィードバック認識型訓練により、モデルは条件制約を内在化し、推論時に追加の補正ステップなしで条件を満たす生成を行う。
Context-Aware RL for Agentic and Multimodal LLMs
著者: Peiyang Xu, Bangzheng Li, Sijia Liu et al.
長文脈や複雑な入力中の決定的な証拠に注目させる文脈認識型強化学習手法ContextRLを提案した研究。
新規性: LLMはツールトレース中の1行や画像中の微妙な詳細など、長いまたは複雑なコンテキスト内の小さいが決定的な証拠を特定する必要がある応答でしばしば失敗する。ContextRLは文脈認識型の強化学習手法で、このような証拠への注目能力を向上させる。
手法: 強化学習の報酬設計にコンテキスト内の証拠位置への注目度を組み込み、モデルが長文脈や多モーダル入力から決定的情報を効率的に抽出できるよう訓練する。エージェント的なツール使用シナリオとマルチモーダル推論の両方に適用可能な汎用的手法として設計されている。
分野別の動向
LLM基盤技術・アーキテクチャ
本日の最大の注目はDeepSeek-V4の公開である。1.6Tパラメータ（49B活性化）のMoEモデルが100万トークンコンテキストを実用的なコストで処理可能にし、CSA/HCA混合アテンションとMuonオプティマイザという技術的革新を導入した。arXivからはITNet（畳み込み・注意・再帰を学習可能な積分変換で統一）やDiffusion Language Modelsの体系的分析（8つのDLMを8ベンチマークで比較）、ICLにおけるpositional biasの分析（dLLMでのクエリ位置最適化）が登場している。前日のLoopCoder-v2がアーキテクチャ効率化を示したのに対し、本日はスケールと効率の両面でMoEアーキテクチャの新たなフロンティアが示された。
エンボディドAI・ロボティクス
DragMesh-2（61 upvotes）、Playful Agentic Robot Learning（35 upvotes）、S-Agent（27 upvotes）と、エンボディドAIに高注目の研究が集中した。DragMesh-2は関節付き物体への多指操作、Playful Agentic Robot Learningは指示なしのスキル自律獲得、S-Agentは空間ツール使用による3D推論という異なる側面を攻略している。HumanScale（3 upvotes）はエゴセントリック人間映像によるエンボディド事前訓練、ENPIRE（7 upvotes）はエージェント型ロボットポリシーの自己改善を提案した。前日のGuava・MolmoMotionに続き、エンボディドAIが汎用ハーネス、スキル獲得、空間推論、物体操作の各レベルで急速に進展している。
生成モデル・画像編集
Moebius（96 upvotes）が軽量インペインティングで圧倒的な注目を集めた。FreeStyle（18 upvotes）はコミュニティLoRAを活用したスタイル・コンテンツ分離生成、FlowBender（15 upvotes）は条件付きフローモデルの自己補正訓練を提案した。HiLo-Token（2 upvotes）は高低周波トークン圧縮による効率的画像編集、LooseControlVideo（1 upvote）は空間ブロッキングによる映像制御を示している。前日のShow the Signal, Hide the Noiseが理論的洞察を提供したのに続き、生成モデルの実用性と効率性の両面で研究が活発である。
エージェント評価・ベンチマーク
Beyond Static Leaderboards（20 upvotes）がエージェント評価のリーダーボードの根本的問題を指摘し、予測的妥当性という新しい評価基準を提案した。Multi-LCB（26 upvotes）はコード生成の多言語評価を拡張し、iOSWorld・MyPCBenchはパーソナルインテリジェンスの評価を提案している。arXivからはReliability without Validity（LLM-as-a-Judge の21モデル・54万判定の体系的評価）やBenchmarking Agentic Review Systems（エージェント型査読システムの評価）も登場した。前日のBeyond the Current Observationによる非マルコフ評価に続き、エージェント評価の精緻化が加速している。
強化学習・テスト時スケーリング
ContextRL（文脈認識型RL）がエージェント的・マルチモーダルLLMの証拠注目能力を向上させ、FAPO（4 upvotes）がClaude Codeを用いたマルチステップLLMパイプラインの完全自律プロンプト最適化を提案した。arXivからはGRACE（テスト時スケーリングの検証粒度最適化）、REVES（改訂・検証拡張訓練によるテスト時スケーリング）、RODS（マルチターンツール使用エージェントの報酬駆動オンラインデータ合成）が登場している。前日のEfficientRolloutがRLロールアウトの効率化を示したのに対し、本日はRL訓練とテスト時推論の両面で適応的な計算配分の研究が進んでいる。
解釈可能性・信頼性
arXivからTreeTracer（確率的パス集約によるLLMバイアスの可視化）、LUCID（知識グラフ推論のハルシネーション検出）、Bag of Dims（訓練不要の次元レベル符号パターンによる解釈可能性）、Thermodynamic Signatures of Reasoning（自由エネルギーとスペクトル形状因子によるハルシネーション検出）が登場した。前日のSAE Interventions are Unreliableが特徴レベル介入の脆弱性を示したのに続き、LLMの内部表現に基づく解釈可能性と信頼性の研究が多角的に展開されている。