LLM/NLP最新論文

ロボット操作・遠隔操作・ゲーム生成を狙う世界モデル群がHFの上位を独占し、72 upvotesのRynnWorld-4Dを筆頭に並んだ。視覚タスクを統一生成空間で扱うSenseNova-Vision、交互推論のRL最適化、投機的デコードなど生成・高速化の研究も層をなした。

注目度

注目論文

RynnWorld-4D: 4D Embodied World Models for Robotic Manipulation

著者: Haoyu Zhao, Xingyue Zhao, Siteng Huang et al.

オープンワールドでのロボット操作には、シーンの見た目を認識するだけでなく、相互作用によって3D構造がどう動くかを予測する能力が求められる。本研究は、同期したRGB・深度・オプティカルフロー(RGB-DF)が、その動きを物理的に根拠づけた表現になると主張する(72 upvotes、本日最高)。

新規性: RGBに加えて深度と光学フローを同期的にモデル化する「4D」世界モデルを構築し、シーンの3D構造が操作下でどう変化するかを捉える点が貢献である。

手法: RGB-DFという物理接地型の統合表現を用い、相互作用に伴う3D構造の運動を予測することで、ロボット操作向けの世界モデルの予測精度と汎化を高める。

Hugging Face Daily Papers

AlayaWorld: Long-Horizon and Playable Video World Generation

著者: AlayaWorld Team, Kaipeng Zhang, Chuanhao Li et al.

ゲーム世界は従来、労働集約的な制作パイプラインで構築され、開発・改変ともにコストが高かった。動画世界モデルの進展は、明示的な作り込みに代わる根本的に異なるパラダイムを提示する(71 upvotes)。

新規性: 動画世界モデルによって、長時間(long-horizon)かつ操作可能(playable)なゲーム世界を生成する枠組みを示した点が新しい。

手法: シーンを明示的にオーサリングする代わりに、動画生成モデルで長時間・プレイアブルな世界を生成し、開発・カスタマイズ・改変のコストを大幅に下げることを狙う。

Hugging Face Daily Papers

RynnWorld-Teleop: An Action-Conditioned World Model for Digital Teleoperation

著者: Haoyu Zhao, Xingyue Zhao, Hangyu Li et al.

ロボット学習のスケールには大規模で多様な軌跡データが必要だが、その収集は物理的なテレオペレーションがボトルネックとなり、あらゆるデモが操作者の時間を特定のハードウェア・作業空間に縛りつけてしまう(67 upvotes)。

新規性: データ収集を物理ハードウェアから切り離す「デジタル遠隔操作(digital teleoperation)」という行動条件付き世界モデルのパラダイムを提示した点が貢献である。

手法: 行動条件付きの世界モデルによって、テレオペのデータ収集を物理環境から分離し、操作者の時間を特定ハードウェアに束縛せずに多様な軌跡データを生成できるようにする。

Hugging Face Daily Papers

Vision as Unified Multimodal Generation

著者: Xiaoyang Han, Jianhua Li, Kewang Deng et al.

コンピュータビジョンを「統一マルチモーダル生成」として定式化し、多様な視覚タスクをタスク固有のアーキテクチャなしに、統一マルチモーダルモデルのネイティブなテキスト・画像生成空間で表現する研究(30 upvotes)。

新規性: 異種の視覚タスクを、専用構造を用いず統一モデルの生成空間で一括して扱う定式化を示し、その上でSenseNova-Visionが自然言語指示で駆動される点が新しい。

手法: 各視覚タスクをテキスト・画像の生成問題として表現し、SenseNova-Visionが自然言語による指示に従って多様なタスクを統一的に処理する。

Hugging Face Daily Papers

Bridging Interleaved Multi-Modal Reasoning as a Unified Decision Process

著者: Zican Hu, Xuyang Hu, Yiming Liu et al.

統一マルチモーダルモデル(UMM)はテキストと画像を交互に生成する推論能力を示すが、こうした多ターン生成を強化学習(RL)で効果的に最適化することは依然として課題である。既存手法はRLをテキストステップのみに適用し、画像生成を軽視してきた(29 upvotes)。

新規性: テキスト・画像の交互生成を単一の統一的な決定過程(unified decision process)とみなし、テキストと画像の両ステップをRLで最適化できるようにした点が貢献である。

手法: 交互マルチモーダル推論を統一的な逐次意思決定として定式化し、テキストに限らず画像生成ステップも含めてRLで最適化する枠組みを設計する。

Hugging Face Daily Papers

Light-Omni: Reflex over Reasoning in Agentic Video Understanding with Long-Term Memory

著者: Chang Nie, Jiaju Wei, Junlan Feng et al.

エージェント型の動画理解は、連続する長時間のマルチモーダルストリームを自律的に処理・応答するための長期記憶をモデルに与える。しかし高度な動画エージェントは、行動制御や証拠集約に「探偵的」な反復推論を用いることが多く、コストが嵩む(19 upvotes)。

新規性: コスト高な反復推論の代わりに、長期記憶を備えた「反射(reflex)」的な処理を重視することで、低コストなエージェント動画理解を実現する点が新しい。

手法: 反復的な探索・証拠集約に頼らず、長期記憶に基づく反射的な応答を中心に据えることで、長時間ストリームに対する動画理解の計算コストを抑える。

Hugging Face Daily Papers

DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation

著者: Xin Cheng, Xingkai Yu, Chenze Shao et al.

投機的デコードは、ドラフト生成とターゲット検証を分離することでLLM推論を高速化する。近年の並列ドラフタは一度の順伝播で長いトークン列を提案できるが、トークン間依存の欠如から受容率が急速に減衰する問題を抱える(17 upvotes)。

新規性: 信頼度に基づくスケジューリングと半自己回帰生成を組み合わせ、並列ドラフトで生じる急激な受容減衰(acceptance decay)を抑える点が貢献である。

手法: 半自己回帰的な生成によってトークン間の依存を確保しつつ、信頼度スケジュール(confidence-scheduled)でドラフトの受容を制御し、投機的デコードの高速化を安定させる。

Hugging Face Daily Papers

SkillOpt-Lite: Better and Faster Agent Self-evolution via One Line of Vibe

著者: Yifei Shen, Bo Li, Xinjie Zhang

自律エージェントのスキル最適化が注目を集める一方、既存手法は複雑なパイプラインに依存している。本研究は「すべての構成要素が理論または経験的必要性によって正当化される、最小限で有効なスキル最適化パイプラインとは何か」という根本問題に取り組む(17 upvotes)。

新規性: 各構成要素を理論・実証で正当化した「1行のvibe」による極めて簡潔なスキル最適化を提示し、複雑なパイプラインなしにエージェントの自己進化を実現する点が新しい。

手法: 冗長な構成要素を排し、必要性が裏付けられた最小限のパイプラインへとスキル最適化を切り詰めることで、より良く・より速いエージェントの自己進化(self-evolution)を狙う。

Hugging Face Daily Papers

Nemotron-Labs-Diffusion: A Tri-Mode Language Model Unifying Autoregressive, Diffusion, and Self-Speculation Decoding

著者: Yonggan Fu, Lexington Whalen, Abhinav Garg et al.

自己回帰(AR)・拡散・自己投機(self-speculation)デコードを単一のアーキテクチャに統合する三モード言語モデル。ARと拡散の目的関数を同時に学習し、展開環境や並行度に応じてモードを切り替えて高スループットを維持する。

新規性: 一つのモデルでAR・拡散・自己投機の3モードを切り替えられ、拡散が先読み計画を、ARが左から右への言語事前分布を担うという相補性を明らかにした点が貢献である。自己投機モードでは拡散がドラフトしARが検証し、MTP系を受容率・実機効率の両面で上回る。

手法: 結合AR-拡散目的で3B/8B/14Bまでスケールし、Nemotron-Labs-Diffusion-8BはQwen3-8Bと同等精度で1回の順伝播あたり6倍のトークンをデコードし、GB200上のSGLangで4倍のスループットを達成する。

arXiv

Parallelized Autoregressive Decoding for Omni-Modal Dense Video Captioning

著者: Wenzheng Zeng, Siyi Jiao, Chen Gao et al.

密動画キャプション(dense video captioning)は、動画イベントを時間的に接地した記述として生成し、イベント単位の理解と生成の双方に寄与する。この領域では、強力な生成・クロスモーダル能力から自己回帰動画LLMが主流のパラダイムとなっている(16 upvotes)。

新規性: 全モダリティ(omni-modal)の密動画キャプションに対し、逐次的な自己回帰デコードを並列化することで、生成を高速化する点が新しい。

手法: 自己回帰動画LLMの逐次デコードを並列自己回帰デコード(parallelized autoregressive decoding)に置き換え、時間的に接地した密なキャプション生成の効率を高める。

Hugging Face Daily Papers

分野別の動向

世界モデルと身体性AI

本日はHugging Face Daily Papersの上位を世界モデル(world model)が独占した。RynnWorld-4D(72 upvotes)はRGB・深度・光学フローを同期させ、操作下での3D構造の運動を予測する4D世界モデルを提示。RynnWorld-Teleop(67 upvotes)は物理テレオペからデータ収集を切り離す「デジタル遠隔操作」を、AlayaWorld(71 upvotes)は長時間・プレイアブルなゲーム世界の生成を狙う。ロボット学習のデータボトルネック解消からゲーム制作の自動化まで、動画・4D生成を核とする世界モデルが応用の幅を広げつつある。

統一マルチモーダル生成と推論

視覚・マルチモーダルタスクを「生成」として統一する潮流も厚い。Vision as Unified Multimodal Generation(30 upvotes)は多様な視覚タスクをタスク固有構造なしに統一モデルの生成空間で扱うSenseNova-Visionを提示。Bridging Interleaved Multi-Modal Reasoning(29 upvotes)はテキスト・画像の交互生成を単一の決定過程とみなし、画像生成ステップも含めてRLで最適化する。個別タスク向けの専用設計から、生成空間での統一的な定式化へと軸足が移っている。

推論効率とデコード高速化

生成の高速化を狙う研究も並んだ。DSpark(17 upvotes)は信頼度スケジュールと半自己回帰生成で投機的デコードの受容減衰を抑え、Nemotron-Labs-DiffusionはAR・拡散・自己投機を単一構造に統合してモード切替でスループットを稼ぐ。Parallelized Autoregressive Decoding(16 upvotes)は密動画キャプションの自己回帰デコードを並列化する。トークン間依存を保ちながら並列性を引き出す設計が、テキスト・動画の双方で共通の課題となっている。

エージェントの効率化

エージェント領域では簡素化と低コスト化が焦点となった。Light-Omni(19 upvotes)は反復推論より「反射」を重視し、長期記憶を備えた低コストな動画理解エージェントを提示。SkillOpt-Lite(17 upvotes)は各構成要素を理論・必要性で正当化した最小限のパイプラインでスキル最適化を切り詰め、「1行のvibe」による自己進化を実現する。複雑なパイプラインを積み上げる方向から、必要性が裏付けられた最小構成へと揺り戻しが起きている。

ソース