LLM/NLP最新論文

175 upvotesのLongStrawが固定GPU予算で200万トークン超の長文脈RLを実現し首位。エージェントの自己進化・協調・評価基盤、剪定LLMの回復や生成時コンパイラ誘導など、学習効率とエージェント運用を問う研究が並んだ。

注目度

注目論文

LongStraw: Long-Context RL Beyond 2M Tokens under a Fixed GPU Budget

著者: Changhai Zhou, Kieran Liu, Yuhua Zhou et al.

推論システムが100万トークン級の文脈へ近づく一方、RL事後学習は256Kトークン以下に留まり、展開時の長さ汎化に依存しているという乖離を突く(175 upvotes)。とりわけ長い軌跡を扱うAIエージェントで、このギャップは深刻になる。

新規性: 固定GPU予算という現実的制約の下で、RL事後学習の文脈長を200万トークン超へと拡張し、推論と学習の文脈長ギャップを埋めた点が貢献である。

手法: 限られたGPU予算内で超長文脈の強化学習を成立させる学習設計を導入し、推論時の長さ汎化に頼らずに長文脈タスクへ適応させる。

Hugging Face Daily Papers

VideoChat3: Fully Open Video MLLM for Efficient and Generalist Video Understanding

著者: Xinhao Li, Yuhan Zhu, Xiangyu Zeng et al.

動画理解は動き・長尺動画・ストリーミング対話へと広がってきたが、既存のオープンソースモデルは多様な動画種別への汎化や効率の面でなお制約が大きい(145 upvotes)。

新規性: 多様な動画種別に汎化する、完全オープンで効率的かつ汎用の動画マルチモーダルLLMを提示した点が貢献である。

手法: 効率と汎化を両立させる設計により、単一のオープンモデルで多様な動画理解タスクを扱えるようにする。

Hugging Face Daily Papers

SEED: Self-Evolving On-Policy Distillation for Agentic Reinforcement Learning

著者: Jinyang Wu, Shuo Yang, Zhengxi Lu et al.

LLMは多ターン対話・ツール利用・環境フィードバックを含む長期タスクのための対話的エージェントとして訓練が進むが、結果ベースRLの疎な軌跡レベル報酬は限られた学習信号しか与えない(85 upvotes)。

新規性: 自己進化型のオンポリシー蒸留により、疎な軌跡報酬を補ってエージェントの長期タスクRLを改善する点が新しい。

手法: 生徒モデル自身が進化させる蒸留信号をオンポリシーで供給し、まばらな報酬を密な学習信号で補完する。

Hugging Face Daily Papers

SearchOS-V1: Towards Robust Open-Domain Information-Seeking Agent Collaboration

著者: Yuyao Zhang, Junjie Gao, Zhengxian Wu et al.

ツール統合型LLMの進展でWeb検索は情報探索エージェントの中核機能となったが、対話履歴が肥大するにつれエージェントはタスク進捗の追跡に苦しみ、検索が有用な証拠を得られないと既存の単一・多エージェント方式は行き詰まる(60 upvotes)。

新規性: 履歴肥大でタスク進捗を見失う課題に対処し、頑健なオープンドメイン情報探索のエージェント協調を実現した点が貢献である。

手法: 複数エージェントの協調によって検索の失敗や進捗喪失に耐える情報探索プロセスを構成する。

Hugging Face Daily Papers

BadWAM: When World-Action Models Dream Right but Act Wrong

著者: Qi Li, Xingyi Yang, Xinchao Wang

World-Action Model(WAM)は行動生成と未来の世界予測を結合して表現を学ぶ、身体制御の有望な基盤である。この結合は頑健性・解釈性・安全性の源泉とみなされることが多い(46 upvotes)。

新規性: WAMが「正しく夢見て(未来を正しく予測しつつ)誤って動く」脆弱性を明らかにし、結合がもたらすとされる安全性を問い直した点が新しい。

手法: 世界予測と行動生成の結合構造に潜む失敗モードを分析し、予測の正しさが行動の正しさを保証しないことを示す。

Hugging Face Daily Papers

AgentCompass: A Unified Evaluation Infrastructure for Agent Capabilities

著者: Zichen Ding, Jiaye Ge, Shufan Jiang et al.

LLMが自律エージェントへと進化するにつれ統一評価基盤の必要性が高まるが、現行の評価パイプラインは断片化し密結合で、再現性を損ない重複した開発を招いている(38 upvotes)。

新規性: 断片化したエージェント評価パイプラインを統一し、再現可能な評価基盤を提示した点が貢献である。

手法: 評価要素を疎結合な統一インフラとして再構成し、エージェント能力の評価を再現可能かつ再利用可能にする。

Hugging Face Daily Papers

Self-Improvements in Modern Agentic Systems: A Survey

著者: Zhe Ren, Yimeng Chen, Dandan Guo et al.

自己改善する自律エージェントは研究プロトタイプから実運用へ移行しつつある。その主眼は、最小限あるいは無しの人手介入で経験から制御可能に進化・適応することにある(25 upvotes)。

新規性: 現代の自己改善エージェントを、経験を能力へ変換する適応系として体系化したサーベイである点が貢献である。

手法: 経験からの適応という観点で既存手法を整理し、制御可能な進化を軸に自己改善エージェントの設計空間を俯瞰する。

Hugging Face Daily Papers

ShortOPD: Recovering Pruned LLMs with Short-to-Long On-Policy Distillation

著者: Qingyu Zhang, Qianhao Yuan, Hongyu Lin et al.

構造化枝刈りはハードウェアに優しいLLM圧縮法だが、多くは多肢選択の認識タスクで検証されており、同じ圧縮チェックポイントが展開に必要な自由記述生成では崩壊しうる(17 upvotes)。貪欲なpass@1が実性能を覆い隠すことが一因である。

新規性: 短→長のオンポリシー蒸留によって、構造化枝刈りで生成性能が崩れたLLMを回復させる点が新しい。

手法: 短い生成から長い生成へと段階的に蒸留するオンポリシー学習で、剪定後モデルの自由記述生成能力を取り戻す。

Hugging Face Daily Papers

Generative Compilation: On-the-Fly Compiler Feedback as AI Generates Code

著者: Niels Mündler-Sasahara, Hristo Venev, Dawn Song et al.

Rustのように豊かな静的意味を持つ言語はAI生成コードに強い保証を与えるが、その厳格さゆえ生成そのものが難しい。既製のコンパイラは生成後のフィードバックは与えられるが、生成途中の各ステップを誘導できない(6 upvotes)。

新規性: コード生成の途中でコンパイラフィードバックをその場で与え、厳格な静的型付け言語のAIコード生成を中間ステップから誘導する点が新しい。

手法: 生成の各段階でコンパイラの逐次フィードバックを取り込み、生成過程を静的意味に整合させながら進める。

Hugging Face Daily Papers

Rethinking the Evaluation of Harness Evolution for Agents

著者: Yike Wang, Huaisheng Zhu, Zhengyu Hu et al.

LLMエージェントの自動ハーネス進化の評価を再考する。既存手法はユニットテストでハーネス構成を探索し、同じ公開ベンチマークで最終性能を報告しており、この手順は根本的な懸念を生む(6 upvotes)。

新規性: 探索と報告を同一の公開ベンチで行う既存のエージェントハーネス進化評価の根本的問題を明らかにし、評価プロトコルを問い直した点が貢献である。

手法: 探索用と評価用のベンチマークが一致することで生じる過適合的な性能報告の問題を分析し、より妥当な評価の在り方を検討する。

Hugging Face Daily Papers

分野別の動向

エージェントの学習・協調・自己改善

エージェント運用そのものを深める研究が厚い。SEED(85 upvotes)は自己進化型オンポリシー蒸留で疎な軌跡報酬を補い、SearchOS-V1(60 upvotes)は履歴肥大に耐える情報探索の協調を実現、Self-Improvements Survey(25 upvotes)は経験から適応する自己改善エージェントを適応系として体系化する。長期タスクにおける学習信号の希薄さと進捗管理という共通課題に、それぞれ蒸留・協調・自己進化の角度から迫っている。

エージェント評価と安全性

評価と信頼性の問い直しも目立った。AgentCompass(38 upvotes)は断片化した評価パイプラインを統一基盤へ再構成し、Rethinking the Evaluation of Harness Evolution(6 upvotes)は探索と報告を同一ベンチで行う既存評価の過適合的問題を突く。BadWAM(46 upvotes)は世界行動モデルが「正しく予測しつつ誤って動く」脆弱性を示し、結合構造がもたらすとされる安全性を疑問視する。能力の主張と、その測り方・信頼性の乖離が焦点になっている。

効率的な事後学習とコード生成

学習効率と生成品質の両立も進む。LongStraw(175 upvotes)は固定GPU予算で200万トークン超の長文脈RLを成立させ、ShortOPD(17 upvotes)は短→長のオンポリシー蒸留で剪定LLMの生成性能を回復させる。Generative Compilation(6 upvotes)は生成途中のコンパイラフィードバックで厳格言語のコード生成を誘導しており、限られた計算資源や圧縮・厳格な制約の下でいかに実用的な生成能力を保つかという実装志向の関心が共通する。

汎用マルチモーダル理解

VideoChat3(145 upvotes)は多様な動画種別に汎化する完全オープンで効率的な動画マルチモーダルLLMを提示した。動き・長尺・ストリーミングへと広がる動画理解を、オープンかつ効率的な単一モデルで汎用的に扱おうとする流れを代表しており、基盤モデルのオープン化と汎化の両立が引き続き重視されている。

ソース