LLM/NLP最新論文

完全オープンの汎用動画理解MLLM VideoChat3が108 upvotesで首位。エージェントの自己進化蒸留・長期タスク協調・方針適応ガードレールなど、エージェントの運用性と評価基盤を問う研究が並んだ一日。

注目度

注目論文

VideoChat3: Fully Open Video MLLM for Efficient and Generalist Video Understanding

著者: Xinhao Li, Yuhan Zhu, Xiangyu Zeng et al.

動画理解はモーション・長尺動画・ストリーミング対話へと広がり、実世界応用に近づいている。しかし既存のオープンソースモデルは多様な動画タイプへの汎化が難しく、汎用的な動画理解能力に制約が残っていた(108 upvotes)。

新規性: 完全オープンソースとして、多様な動画タイプに汎化する効率的かつ汎用的な動画理解MLLMを実現した点が貢献である。

手法: 汎用動画理解に向けたモデル設計と学習レシピを整備し、モーション・長尺・ストリーミングを含む幅広い動画タイプに対応する。

Hugging Face Daily Papers

SEED: Self-Evolving On-Policy Distillation for Agentic Reinforcement Learning

著者: Jinyang Wu, Shuo Yang, Zhengxi Lu et al.

大規模言語モデルは、マルチターン対話・ツール使用・環境フィードバックを伴う長期タスクのエージェントとして訓練されることが増えている。結果ベースの強化学習は実用的な最適化パラダイムだが、軌跡レベルの疎な報酬しか与えられず、学習信号が乏しいという課題があった(66 upvotes)。

新規性: 疎な軌跡報酬を、自己進化的なオンポリシー蒸留によって補強し、エージェントRLの学習効率を高めた点が新しい。

手法: エージェント自身のオンポリシー状態上で密な教師信号を自己進化的に生成し、疎な結果報酬を補完することで長期タスクの学習を安定化させる。

Hugging Face Daily Papers

KnowAct-GUIClaw: Know Deeply, Act Perfectly, Personal GUI Assistant with Self-Evolving Memory and Skill

著者: Yunxin Li, Jinchao Li, Shibo Su et al.

OpenClawは複雑なタスク自動化のための主要なエージェントフレームワークとして台頭している一方、クロスプラットフォームのGUI操作支援が不十分で、自己進化機構も十分に構築されていない。これらの欠点が多様なデバイス環境への適応と継続的な性能改善を妨げていた(52 upvotes)。

新規性: 自己進化するメモリとスキルを備え、クロスプラットフォームGUI操作に対応するパーソナルGUIアシスタントを実現した点が貢献である。

手法: OpenClaw系のフレームワークに自己進化するメモリとスキル機構を導入し、多様なデバイスエコシステム横断でGUI操作を継続的に改善する。

Hugging Face Daily Papers

SearchOS-V1: Towards Robust Open-Domain Information-Seeking Agent Collaboration

著者: Yuyao Zhang, Junjie Gao, Zhengxian Wu et al.

ツール統合型LLMの進展により、Web検索は情報探索エージェントの中核能力となった。しかし対話履歴が長くなるにつれてエージェントはタスク進捗の追跡に苦しみ、検索が有用な証拠を得られない場合に既存の単一・複数エージェント手法が破綻しやすいという問題があった(49 upvotes)。

新規性: 長い対話履歴での進捗追跡の破綻に対し、堅牢なオープンドメイン情報探索エージェントの協調枠組みを提案した点が新しい。

手法: 情報探索エージェントの協調を再設計し、検索失敗時にも進捗追跡を維持する堅牢な探索プロセスを構築する。

Hugging Face Daily Papers

LongStraw: Long-Context RL Beyond 2M Tokens under a Fixed GPU Budget

著者: Changhai Zhou, Kieran Liu, Yuhua Zhou et al.

推論システムが100万トークン規模の文脈に近づく一方、事後学習は256Kトークン以下にとどまり、デプロイ時の長さ汎化に依存している。この推論と事後学習の文脈長ギャップは、長い文脈を扱うAIエージェントにとって特に重要な課題となっている(40 upvotes)。

新規性: 固定GPU予算のもとで200万トークンを超える長文脈RL事後学習を可能にし、推論と学習の文脈長ギャップを解消した点が貢献である。

手法: 限られたGPU予算内で超長文脈のRL事後学習を実行する仕組みを整え、長さ汎化に頼らずに長文脈での学習を実現する。

Hugging Face Daily Papers

BadWAM: When World-Action Models Dream Right but Act Wrong

著者: Qi Li, Xingyi Yang, Xinchao Wang

World-action models(WAM)は、行動生成と未来の世界予測を結合して学習する、身体制御の有望な基盤として台頭している。この結合はしばしば頑健性・解釈性・安全性の源とみなされてきたが、その前提の妥当性は十分に検証されていなかった(36 upvotes)。

新規性: 行動と未来予測を結合するWAMの「頑健性」前提を検証し、未来を正しく夢見ながら誤って行動する脆弱性を明らかにした点が貢献である。

手法: WAMにおける行動生成と世界予測の結合を分析し、予測が正しくても行動が誤るという失敗モードを体系的に示す。

Hugging Face Daily Papers

PolicyShiftGuard: Benchmarking and Improving Policy-Adaptive Image Guardrails

著者: Mingyang Song, Luxin Xu, Haoyu Sun et al.

画像ガードレールは通常、固定された安全ポリシーの下で学習・評価され、安全性を画像固有の性質として暗黙に扱う。しかし実運用では、同じ画像がある製品では許可され、別の製品では制限され、ポリシー境界の変更で新たに禁止されうる(35 upvotes)。

新規性: 安全ポリシーが製品や規定変更で動的に変化することを前提にした、方針適応型の画像ガードレールをベンチマーク化・改善した点が新しい。

手法: 固定ポリシー前提を排し、変化する安全方針に適応する画像ガードレールの評価基盤と手法を整備する。

Hugging Face Daily Papers

AgentCompass: A Unified Evaluation Infrastructure for Agent Capabilities

著者: Zichen Ding, Jiaye Ge, Shufan Jiang et al.

LLMが自律エージェントへと進化するなか、統一的な評価基盤の必要性が高まっている。しかし現行の評価パイプラインは断片化し密結合であり、再現性を損ない、冗長なエンジニアリングを招いていた(34 upvotes)。

新規性: 断片化・密結合なエージェント評価パイプラインを統合し、再現性を担保する統一評価基盤を提示した点が貢献である。

手法: エージェント能力の評価を統一インフラとして再構成し、再現性と拡張性を確保する評価パイプラインを提供する。

Hugging Face Daily Papers

Self-Improvements in Modern Agentic Systems: A Survey

著者: Zhe Ren, Yimeng Chen, Dandan Guo et al.

自己改善する自律エージェントは、研究試作から実運用システムへと移りつつある。その主目的は、最小限あるいは人手なしの介入で経験から制御可能に進化・適応することにある(21 upvotes)。

新規性: 実運用へ移行する自己改善エージェントを、経験を能力向上へ変換する適応系として体系化したサーベイである点が貢献である。

手法: 現代の自己改善エージェントを適応系の観点から整理し、経験からの学習・進化のパラダイムを構造化する。

Hugging Face Daily Papers

Registers Matter for Pixel-Space Diffusion Transformers

著者: Nikita Starodubcev, Ilia Sudakov, Ilya Drobyshevskiy et al.

Vision Transformer(ViT)は高ノルムのパッチトークン外れ値を生じ、特徴マップ品質を劣化させることが知られ、この問題はregisterトークンで効果的に緩和される。拡散モデルがTransformerアーキテクチャを採用しピクセル空間学習へ移行するにつれ、その形態はViTに近づく(21 upvotes)。

新規性: registerトークンが有効なViT特有の外れ値問題が、ピクセル空間の拡散Transformerにも現れることを示し、registerによる特徴品質改善を適用した点が新しい。

手法: ピクセル空間拡散Transformerにregisterトークンを導入し、高ノルムパッチ外れ値を抑制して特徴マップ品質を改善する。

Hugging Face Daily Papers

分野別の動向

エージェントの自己進化と運用性

上位を、基盤モデルの外側にあるエージェントの学習・運用への関心が占めた。SEED(66 upvotes)は疎な軌跡報酬を自己進化的なオンポリシー蒸留で補強し、KnowAct-GUIClaw(52 upvotes)は自己進化するメモリとスキルでクロスプラットフォームGUI操作を継続改善する。Self-Improvements in Modern Agentic Systems(21 upvotes)はこの流れを適応系として体系化するサーベイであり、「経験から進化するエージェント」が共通のテーマとして鮮明である。

長期タスクの協調とスケール

長い文脈・長期タスクをめぐる研究が並んだ。SearchOS-V1(49 upvotes)は長い対話履歴での進捗追跡の破綻に対し堅牢な情報探索エージェント協調を提案し、LongStraw(40 upvotes)は固定GPU予算で200万トークン超の長文脈RL事後学習を可能にして推論と学習の文脈長ギャップを埋める。エージェントの「長さ」を能力と効率の両面から扱う視点が強まっている。

身体制御・世界モデルの信頼性

身体エージェントの基盤に関する批判的検討が現れた。BadWAM(36 upvotes)は行動と未来予測を結合するWAMの「頑健性」前提を検証し、未来を正しく夢見ながら誤って行動する脆弱性を指摘する。能力の拡張と並行して、その前提がどこで崩れるかを問う姿勢が見える。

評価・安全性の基盤整備

エージェントの評価と安全性を支える基盤づくりも厚い。AgentCompass(34 upvotes)は断片化・密結合な評価パイプラインを統合して再現性を担保し、PolicyShiftGuard(35 upvotes)は安全ポリシーが動的に変化する現実を前提にした方針適応型の画像ガードレールを提案する。運用時の変化に耐える評価・防御の枠組みが求められている。

マルチモーダル基盤

マルチモーダルの基盤技術も進展した。VideoChat3(108 upvotes)は多様な動画タイプに汎化する完全オープンの汎用動画理解MLLMを実現し、Registers Matter for Pixel-Space Diffusion Transformers(21 upvotes)はViT由来の外れ値問題をregisterトークンでピクセル空間拡散Transformerに持ち込み特徴品質を改善する。理解と生成の双方で、汎用性と品質の底上げが進んでいる。

ソース