LLM/NLP最新論文

1タスク数百〜数千ドルという長期ターミナルタスクの訓練データ問題に、再帰的合成のRecursive Synthesisが211 upvotesで応えた。信用割当のAgentOPSD、報酬モデル評価のOSReward、環境ダイナミクス内在化のEnvACEが続き、エージェント訓練の各層が同時に埋まりつつある一日である。

注目度

注目論文

Recursive Synthesis for Long-Horizon Terminal Tasks

著者: Zhongzhi Li, Yucheng Shi, Zongxia Li et al.

ターミナルエージェント向けの高品質な長期訓練データは、1タスクあたり数百から数千ドルを要するほど高コストである(211 upvotes)。指示・環境・参照解法・検証器の四者を相互に整合させたまま作り込む必要があるためで、人手による作成はスケールせず、直接生成もうまくいかない。

新規性: データ作成コストの原因を「四要素の相互整合性」として明示し、それを再帰的な合成手続きで担保する点が貢献である。タスクを個別に作るのではなく、構造を再帰的に展開しながら整合性を保ったまま長期化させる。

手法: 指示・環境・参照解法・検証器を一体として再帰的に合成し、長期ターミナルタスクの訓練データを量産する。

Hugging Face Daily Papers

AgentOPSD: Recursive Self-Distillation for Agentic Reinforcement Learning

著者: Zi-Han Wang, Zhengxi Lu, Zhiyuan Yao et al.

検証可能な報酬による強化学習は軌跡レベルでアドバンテージを推定するが、長期マルチターンのエージェントタスクでは結果を決定づける少数の枢要な判断に信用を配分できないことが多い(66 upvotes)。近年は信用割当のために特権的自己蒸留(privileged self-distillation)が導入されている。

新規性: 既存の特権的自己蒸留を一段深め、再帰的な自己蒸留として構成することで、長期軌跡の中の決定的ステップへ信用を届かせる点が新しい。

手法: 軌跡レベルのアドバンテージ推定に依存せず、自己蒸留を再帰的に適用して枢要な決定に学習信号を集中させる。

Hugging Face Daily Papers

OSReward: Instituting Standardized Evaluation for Cross-Platform Computer-Use Reward Models

著者: Qiushi Sun, Kanzhi Cheng, Yian Wang et al.

コンピュータ操作エージェント(CUA)はデジタル領域全般で急速に進展している(51 upvotes)。CUAの軌跡は行動・状態・推論を記録するが、それが指示を実際に満たしたかを検証することは、評価・データ選別・強化学習のいずれにとっても中核をなす。人手の検証器も既存の自動検証器も、この役割を十分には果たしていない。

新規性: 軌跡が指示を満たしたか判定する報酬モデルそのものを、プラットフォームをまたぐ形で標準的に評価する基盤を整備した点が貢献である。

手法: 複数プラットフォームにわたるCUA軌跡を対象に、報酬モデルの判定品質を統一プロトコルで測る評価枠組みを構築する。

Hugging Face Daily Papers

WorldClaw: Agentic 3D Open-World Generation at Scale

著者: Chunchao Guo, Jinpeng Li, Yang Li, Zilong Huang

自由に探索可能な大規模3D世界を開放的なテキストから生成することは依然として難しい(46 upvotes)。大域的な空間的一貫性、豊かな局所内容、そして下流の編集・再利用に耐える明示的な資産を同時に維持する必要があるためである。

新規性: 生成を単一のモデル出力ではなく、計画エージェントによる仕様化から粗密二段の構築へと分解した、完全にエージェント的な枠組みとして構成した点が新しい。

手法: 計画エージェントがテキストを領域・地形・資産・材質・空間関係の構造化仕様へ変換する。次に意味的レイアウト、再利用可能な資産、生成的または手続き的な材質、領域を意識した高さ場から大域的に一貫した地形基盤を構築する。細部が要求される領域では地形条件付きの合成を行い、編集可能なテクスチャ付きメッシュを再構成して地形上への配置を復元する。さらにレンダリングに基づくエージェントが地形・物体・外観・接触を精緻化する。

arXiv

GST-Bench: Can VLMs Develop Global Spatial Awareness from Video?

著者: Qifeng Zhang, Kaixiang Huang, Heng Dong et al.

空間知能は身体性を持つエージェントの基盤であるが、既存ベンチマークは単一ないし少数視点からの局所的な空間知覚に焦点を当ててきた(30 upvotes)。連続的で長時間にわたる視覚ストリームからの大域的な空間認識は見過ごされている。

新規性: 局所知覚ではなく、長時間映像を通じて空間の全体像を保持できるかという問いを切り出し、Global-Spatial-Temporal Benchmarkとして定式化した点が貢献である。

手法: 連続する長時間の視覚ストリームを与え、VLMが大域的空間認識を獲得・維持できるかを測るタスク群を構成する。

Hugging Face Daily Papers

EnvACE: Internalizing Environment Dynamics via World Rehearsal for Agentic Reinforcement Learning

著者: Zishan Xu, Zhiyuan Yao, Yuxin Chen et al.

長期のツール利用に向けてLLMエージェントを訓練する際、通常は実環境ないし合成された実行可能環境との相互作用に依存する(28 upvotes)。しかしそれらの構築と検証はコストが高く、外部シミュレータに頼る場合はグラウンディングが難しい。

新規性: 環境そのものを用意する路線から離れ、環境ダイナミクスをモデル内部にリハーサルの形で内在化させるという別の解を提示した点が新しい。

手法: world rehearsalを通じて環境の遷移構造を内在化し、実行可能環境への依存を減らしたままエージェント強化学習を行う。

Hugging Face Daily Papers

Learning from Failures: Retrieval-Centric CoT via Hard Negatives for Unified Multimodal Retrieval

著者: Zelong Sun, Jun Wang, Kaicheng Yang et al.

統合マルチモーダル検索は、異種の入力を通じて表現される複雑なユーザ意図を満たす候補を特定することを目指す(26 upvotes)。大規模視覚言語モデル(LVLM)ベースの検索器は効率的かつスケーラブルだが、生の多モーダル入力を直接符号化すると細粒度の識別情報を取りこぼしやすい。

新規性: 検索の失敗事例をハードネガティブとして教材化し、検索に特化した思考連鎖(CoT)を学習させる点が貢献である。

手法: ハードネガティブを用いて検索中心のCoTを構成し、細粒度の識別に必要な情報を推論過程で明示的に扱わせる。

Hugging Face Daily Papers

From Economic Agents to Agentic Economies: A Systems Blueprint for Economic World Models

著者: Jiale Han, Xiang Li, Jing Qian et al.

経済ワールドモデル(EWM)とは、異質なエージェントとその信念・行動、そして相互作用が集計的結果を生む市場・制度の機構をモデル化することで、経済が内側からどう展開するかを模擬する生成的経済モデルである(24 upvotes)。

新規性: 個々の経済エージェントの模擬から、エージェント的な経済系全体の設計へと視点を引き上げ、実装に向けた体系的な設計指針を示した点が貢献である。

手法: 異質エージェント、信念と行動、市場・制度機構という構成要素を明示し、それらを統合するシステム設計図を提示する。

Hugging Face Daily Papers

HarnessOpt-Bench: Evaluating LLMs at Harness Optimization

著者: Varun Ursekar, Apaar Shanker, Yash Maurya et al.

LLMがエージェントシステムに組み込まれるにつれ、その能力はモデル重みだけでなくハーネス、すなわちプロンプト・ツール・制御フロー・記憶・オーケストレーションコードにも依存するようになる(20 upvotes)。

新規性: 評価対象をモデル本体からその外側の足回りへ移し、評価に導かれた反復的なハーネス最適化をLLM自身が担えるかを測る点が新しい。

手法: ハーネスの各構成要素を自動最適化するタスクを整備し、LLMがその改善ループを回せるかを評価する。

Hugging Face Daily Papers

On-Policy Delta Distillation for Multilingual Math Reasoning

著者: Byeongho Heo, Jaehui Hwang, Sangdoo Yun, Dongyoon Han

オンポリシー蒸留(OPD)はLLM事後訓練における強化学習の有望な代替として台頭しているが、多言語設定での有効性は十分に検証されていない(20 upvotes)。

新規性: OPDとその発展版であるOn-Policy Delta Distillation(OPD^2)を、英語以外を含む数学推論という具体的な舞台で比較検証した点が貢献である。

手法: 英語および他言語の数学推論タスクでOPDとOPD^2を評価し、多言語条件下での蒸留の挙動を明らかにする。

Hugging Face Daily Papers

分野別の動向

長期エージェントの訓練スタック

長期エージェントをめぐる研究が、単一の手法提案ではなく層ごとの分業に移りつつある。最上位のRecursive Synthesis(211 upvotes)はデータ生成を担い、1タスク数百〜数千ドルという参入障壁を、指示・環境・参照解法・検証器の整合性を保った再帰合成で崩す。AgentOPSD(66 upvotes)は同じ長期軌跡を訓練信号の側から扱い、軌跡レベルのアドバンテージでは届かない枢要な決定へ再帰的自己蒸留で信用を配る。EnvACE(28 upvotes)はさらに環境そのものを不要にする方向を採り、world rehearsalでダイナミクスを内在化する。cs.LGのEvoHarness-RL(arXiv:2608.05446)はALFWorldで96.9%の成功率に達し、harness annealingとして訓練の進行に伴い外部状態へのアクセスが選択的になる現象を報告した。データ・信用割当・環境・実行支援が、それぞれ独立した研究対象として立ち上がっている。

エージェントの外側を測る評価

評価の焦点が、モデル出力の正誤からその周辺構造へと移動している。OSReward(51 upvotes)はコンピュータ操作エージェントの軌跡判定を担う報酬モデル自体を評価対象に据え、HarnessOpt-Bench(20 upvotes)はプロンプト・ツール・制御フロー・記憶といったハーネス層の自動最適化能力を測る。cs.AIのOrchestraBench(arXiv:2608.05263)は失敗の伝播を扱い、キーワード型ルータが誤導的な表層フラグを含む敵対的ケースで0%に落ちる一方、意図推論型ルータが100%を得たと報告する。同論文はカスケード半径がパイプライン深度3〜7で0.9から4.7へ増大することも示した。SearchAuditor(arXiv:2608.05212)は平均73.1メッセージ・65.1Kトークンに及ぶ失敗軌跡の監査を扱い、最強のベースラインでも端から端までの通過率は26.6%にとどまる。エージェントが何を間違えたかを人手で追えなくなった以上、診断そのものが研究課題になっている。

ワールドモデルの多方向な拡張

ワールドモデルという語が、映像・3D・経済・音楽と異なる対象へ同時に伸びた。WorldClaw(46 upvotes)は開放的テキストから探索可能な3D世界を、計画エージェントと粗密二段の構成で編集可能な資産まで含めて生成する。MASS(3 upvotes)は多人数環境で世界状態と視点依存の視覚潜在が絡み合う問題を、権威的共有状態の導入で解く。WorldCycle(10 upvotes)は長期映像ワールドモデルの検証ボトルネック、すなわち任意の行動系列に対する正解が存在しない問題に自己検証型の強化学習で対処する。From Economic Agents to Agentic Economies(24 upvotes)は同じ枠組みを経済系へ持ち込み、Helping Music Co-Creation Agents ‘Listen’ Well(1 upvote)は2.55MパラメータのSwin V2エンコーダによる記号音楽の階層的自己教師ありワールドモデルを提示する。cs.LGのQSWM(arXiv:2608.05371)は量子論に着想を得た複素値・密度行列状の潜在表現が有用な帰納バイアスになるかを検証し、複素値版に局所予測での可能性を認めつつ長期ロールアウトの限界を報告した。

解釈可能性と表現の転移

内部表現をめぐる研究がcs.CLに集まった。Cross-Architecture Steering Transfer(arXiv:2608.05164)は、独立に訓練された5モデル・20方向ペアでステアリングベクトルの転移を検証し、1.7B付近に不連続を観測する。1.7B以上では47〜49%の特徴ペアが検証を通過し、単一の普遍ベクトルが5モデル中4モデルで67.3%の勝率を得た一方、0.8B未満では整合が急激に崩れる。PoolBench(arXiv:2608.05162)は37,693件の実文パッセージ上で17概念・19プーリング戦略・3モデルを比較し、広く使われるlast tokenプーリング(AUROC 0.7640)が階層型(0.7799)に統計的有意に劣ると示した。同時に、検出できることが操作できることを意味しないという負の結果も報告している。cs.AIのIgnition Index(arXiv:2608.05160)はGlobal Workspace Theoryの全か無かの点火予測を11モデルで測り、フィードフォワードTransformerがSSMを89%上回る一方、Mambaがほぼ線形の profile を示すと報告した。

安全性とアライメントの脆弱性

アライメントが表層的な手掛かりに条件づけられているという指摘が続いた。Mood Matters(arXiv:2608.05409)は、命令形以外の統語形式が70Bまでの16モデルで拒否を回避しうることを示し、因果媒介分析によって拒否が上流の統語的特徴に部分的に条件づけられていると特定する。純粋に統語的な特徴を操作するだけで拒否を誘発・抑制できるとし、原因をオープンソースモデルの言語的に偏った事後訓練データに帰した。Safe Evolution with Circuit Anchors(arXiv:2608.05158)は自己進化アルゴリズムが安全性の保存を暗黙に仮定している点を突き、モデル特徴の2%未満からなる安全回路を機械的解釈可能性で同定して固定する。Agent Against Agent(5 upvotes)はプロンプトインジェクションのレッドチーミング自体をエージェント化し、What AI Red-Team Evaluations Can and Cannot Prove(2 upvotes)は固定の試験予算の下でレッドチーム評価が動かしうる確信の上限を計算可能な量として定義する。

評価と方法論への懐疑

測定手続きそのものを疑う論文が今日も複数現れた。Evidence Lock Before Commitment(arXiv:2608.05353)は3データセット24,000件の判定で、証拠を先に固定してそれのみを次段の入力とする方式が、構造化された一回呼び出しに比べて人間選好との一致を4〜6ポイント下げ、順序不整合を8〜10ポイント増やすと報告する。監査可能性のために証拠を残すことと、判断時に元の回答を置き換えることは別だという結論である。Universal Pathologies, Conditional Consequences(arXiv:2608.05153)は4,440回の主行列実行を通じ、GraphRAGの過剰引用が構造的に普遍である一方、その忠実性への帰結はコーパス依存だと分ける。同論文は単一のLLM審査員による忠実性判定が検索状態に脆弱であり、GPT-5.4の同一審査員での自己κが0.137にとどまる(41%の項目で判定が変わる)ことも示した。Large Language Models Threaten Double-blind Review(arXiv:2608.05157)は、題名と要旨のみからLLMが人間より効率的に匿名性を崩すと報告し、査読制度の前提そのものに疑問を投げる。

ソース