LLM/NLP最新論文

LLMによる訓練データ作成をエンドツーエンドで測るDataPrep-Bench(38 upvotes)が首位。共進化スキルの自己対戦、オブジェクト指向エージェント、ネイティブマルチモーダル事前学習のスケーリング則まで、学習ループと基盤設計を軸にした研究が並んだ。

注目度

注目論文

DataPrep-Bench: Benchmarking LLMs as Training Data Preparators

著者: Hao Liang, Qifeng Cai, Yibo Lin et al.

訓練データの質はLLMの能力を根本的に左右するが、LLMやエージェント、データ中心ワークフローが実際に訓練データをどこまで作れるかをエンドツーエンドで測る統一ベンチマークは存在しなかった(38 upvotes、本日最上位)。

新規性: LLM主導のデータ準備を二つの補完的な工程からなる作業として捉え、その全体をエンドツーエンドで評価する統一ベンチマークを整備した点が貢献である。

手法: LLM・エージェント・データ中心ワークフローを対象に、データ準備の各工程を切り出して評価できるベンチマークを構築し、実際の準備能力を測定する。

Hugging Face Daily Papers

Skill Self-Play: Pushing the Frontier of LLM Capability with Co-Evolving Skills

著者: Siyuan Huang, Pengyu Cheng, Haotian Liu et al.

LLMの学習は手作業の設計・注釈から相互作用駆動の自己進化へと移りつつある。しかし既存の自己進化手法は、タスクの多様性と検証の信頼性の間に根本的なジレンマを抱える。環境に縛られた手法は正確なフィードバックを得るが、学習が狭い範囲に閉じてしまう(30 upvotes)。

新規性: 共進化するスキルを用いた自己対戦(self-play)で、多様性と検証信頼性のジレンマを緩和しつつLLMの能力限界を押し広げた点が新しい。

手法: スキルを互いに共進化させながら自己対戦させることで、タスクの多様性を保ちつつ信頼できる検証信号を確保し、自己進化的にLLMの能力を高める。

Hugging Face Daily Papers

NVIDIA-labs OO Agents: Native Python Object-Oriented Agents

著者: Paul Furgale, Severin Klingler, James Nolan et al.

従来のエージェント開発は、プロンプトテンプレート、ツールスキーマ、コールバックコード、ワークフローグラフに分断されている。NVIDIA Object-Oriented Agents(NOOA)は、モデル非依存で信頼性の高いAIエージェントを構築するPythonフレームワークである(28 upvotes)。

新規性: エージェントを一つのPythonオブジェクトとして表現し、分断された開発要素を単一のオブジェクト指向の枠組みに統合した点が貢献である。

手法: エージェントをPythonオブジェクトとして定義し、そのメソッドとしてツールやワークフローを扱うことで、モデル非依存かつ簡潔にエージェントを実装する。

Hugging Face Daily Papers

An Exam for Active Observers

著者: Jiarui Zhang, Muzi Tao, Shangshang Wang et al.

人間の視覚は閉ループであり、視線は単一のスナップショットではなく中間的な仮説によって継続的に方向づけられる。心理物理学と認知科学は、この能動的観察が広範なタスクに不可欠だと論じてきた(25 upvotes)。

新規性: マルチモーダルLLMが人間のように視線を能動的に動かして観察できるかを試す評価(試験)を提示した点が新しい。

手法: 中間的な仮説に応じて注視点を動かす能動的観察を要求する課題を設計し、現在のマルチモーダルLLMがこの能力をどこまで備えているかを検証する。

Hugging Face Daily Papers

Tencent WorkBuddy Bench: A Multi-Domain Coding-Agent Benchmark with Contamination-Resistant Task Construction

著者: Tencent WorkBuddy Bench Team, Siqi Cai, Shaopeng Chen et al.

Tencent WorkBuddy Benchは、コーディングエージェント向けのマルチドメイン評価スイートである。その構築方法、採点プロトコル、クロスモデルのリーダーボードを報告する(24 upvotes)。

新規性: 分布情報に基づく汚染耐性のタスク構築を核に据え、コーディングエージェントを統一的に評価する枠組みを整備した点が貢献である。

手法: 分布を踏まえたコーディングエージェント課題を構築・実行する統一評価フレームワークを用意し、複数ドメインにまたがるクロスモデル比較を可能にする。

Hugging Face Daily Papers

Molt: A Scalable PyTorch-Native Training Framework for Agentic Reinforcement Learning

著者: Jian Hu, Huiying Li, Hao Zhang et al.

エージェント的強化学習の研究はアルゴリズムの改変の連続であり、新しい推定器・パイプライン段・ロールアウト方式のたびに、既存フレームワークではトレーナ・分散バックエンド・ロールアウトの各層を貫く改修が必要で、そのコストが研究者に重くのしかかる(21 upvotes)。

新規性: 研究者やAIコーディング支援が全体を把握できるほど簡潔なコードベースで、単一の非同期ループによりエージェント的RLを回せる点が新しい。

手法: PyTorchネイティブな軽量フレームワークとして、生成していないトークンでは学習しない一貫性を保ちつつ、単一の非同期ループでMoE・マルチモーダル方策を学習する。Megatronベースの最先端スタックと統計的に同等の性能を示す。

arXiv

Agentic Context Management: Solving Agent Memory and Cost by Treating Them as Lifecycle and Architecture Problems

著者: Gaurav Dadhich

本番のAIエージェントの失敗は、推論能力の不足よりも、会話履歴・巨大なプロンプト・大量のツール定義・膨張するツール出力といった推論コンテキストを管理できないことに起因することが多い(16 upvotes)。

新規性: エージェントのメモリとコストを、その場しのぎではなくライフサイクルとアーキテクチャの問題として捉え直して制御する枠組みを示した点が貢献である。

手法: 蓄積し続ける履歴やツール出力を、ライフサイクル管理とアーキテクチャ設計の観点から扱うことで、エージェントがコンテキストに溺れる失敗を抑える。

Hugging Face Daily Papers

Scaling Laws for Hypernetwork-Based Knowledge Injection in Large Language Models

著者: Nischay Dhankhar, Dos Baha, Abulhair Saparov

事実知識をLLMに信頼性高く大規模に注入することは未解決の課題である。ハイパーネットワークは大規模な知識注入の有望な解を提供する(16 upvotes)。

新規性: 通常はテスト時適応に使われるハイパーネットワークを、学習時の知識注入に用い、そのスケーリング則を解析した点が新しい。

手法: ハイパーネットワークによる学習時知識注入を対象に、規模に応じた挙動を体系的に調べ、大規模知識注入のスケーリング則を導出する。

Hugging Face Daily Papers

Scaling Native Multimodal Pre-Training From Scratch

著者: Haoyuan Wu, Aoqi Wu, Hai Wang et al.

LLMは高い推論能力を示すが、テキストのみの事前学習に依存するため多モーダルな物理世界の知覚が制約される。ネイティブマルチモーダル事前学習は、モデルをマルチモーダル入力でゼロから学習することでこの制約を回避する(13 upvotes)。

新規性: 固定計算予算下でのVLMの最適なモデルサイズとトークン数を調べ、ネイティブマルチモーダル事前学習のスケーリング則を確立した点が貢献である。

手法: 損失がべき乗則に従うことを示し、言語目的とマルチモーダル目的で配分則が異なることを明らかにする。データ構成が計算最適配分に与える影響をモデル化し、モデルサイズ・トークン数・データ混合の効率フロンティアを導く。

arXiv

Beyond Euclidean Clipping: Overcoming Exploration Collapse in LLM RL via Riemannian Isometric Policy Optimization

著者: Zhicheng Cai, Xinyuan Guo, Hanlin Wu et al.

強化学習はLLMの推論能力を高める主要な枠組みとなったが、PPO-ClipのRLアルゴリズムは探索崩壊に本質的に制約される。後続研究の多くは経験則にとどまり、PPO-Clipの失敗の本質的原因を特定できていない(13 upvotes)。

新規性: PPO-Clipの探索崩壊の本質的原因を突き止め、ユークリッド的なクリッピングを越えるリーマン等長の方策最適化を提示した点が新しい。

手法: 方策更新をリーマン等長の観点から再定式化することで、PPO-Clipに内在する探索崩壊を回避し、LLMの強化学習における探索を維持する。

Hugging Face Daily Papers

分野別の動向

エージェントの学習ループと自己進化

学習の回し方そのものを詰める研究が上位を占めた。Skill Self-Play(30 upvotes)は共進化スキルの自己対戦で多様性と検証信頼性のジレンマを緩和し、Molt(21 upvotes)は単一非同期ループでエージェント的RLを軽量に回す基盤を示す。Beyond Euclidean Clipping(13 upvotes)はPPO-Clipの探索崩壊の本質を突き、リーマン等長の方策最適化で克服する。賢い推論より、学習ループの設計と安定化が主戦場になっている。

データと知識の準備・注入

学習の入力側を整える研究も目立った。DataPrep-Bench(38 upvotes、本日最上位)はLLMが訓練データ作成をどこまでこなせるかをエンドツーエンドで測り、Scaling Laws for Hypernetwork-Based Knowledge Injection(16 upvotes)はハイパーネットワークによる学習時知識注入のスケーリング則を解析する。モデル本体だけでなく、供給するデータと知識をどう作り注ぐかへ関心が広がっている。

エージェントの実装と評価基盤

エージェントを作り測る足回りの整備が進んだ。NVIDIA OO Agents(28 upvotes)はエージェントを一つのPythonオブジェクトとして統合し、Agentic Context Management(16 upvotes)はメモリとコストをライフサイクルとアーキテクチャの問題として制御する。評価面ではTencent WorkBuddy Bench(24 upvotes)が汚染耐性のコーディングエージェント評価を提供し、実装と評価の両輪が強化されている。

マルチモーダルの基盤とスケーリング

視覚を含む基盤モデルの土台を測る研究も並んだ。Scaling Native Multimodal Pre-Training From Scratch(13 upvotes)はネイティブマルチモーダル事前学習の計算最適な配分則を確立し、An Exam for Active Observers(25 upvotes)は人間のように視線を能動的に動かす観察能力をマルチモーダルLLMに問う。マルチモーダルの学習則と能力評価の双方で、基盤の定量化が進んでいる。

ソース