RRSIが152 upvotesで首位に立ち、エージェントの能力をモデルではなくハーネス（プロンプト・制御フロー・ツール・メモリ）の側から再帰的に改良する方向が一日の軸を作った。Harness-Zeroが同じ問題を蒸留で解こうとし、WorldCrafterとGameHorizon Suiteは長期地平の一貫性と評価をそれぞれ記憶とデータの側から押している。
注目論文
RRSI: Regularized Recursive Self-Improvement of Agent Harnesses
著者: Peng Xia, Rujun Han, Zifeng Wang et al.
LLM エージェントの能力は、凍結されたバックボーンモデルを取り巻くプロンプト・制御フロー・ツール・メモリ・コンテキスト管理、すなわちハーネスによって大きく増幅される（152 upvotes）。近年の手法はこの構築を自動化し、ハーネスの構成要素ごとの編集を反復的に提案・選択する形を取っていると本研究は整理する。
新規性: 改良の対象をモデルの重みではなくハーネスに置き、その再帰的な自己改良を正則化すべき最適化過程として扱った点が中核である。エージェントの性能向上は追加学習や、より強いバックボーンへの置き換えとして進むのが通例である——だが実際に効いているのがプロンプトや制御フローであれば、モデルを触らずとも改良の余地は残り、しかも提案と選択を繰り返す過程は特定のタスクへ過剰に適合していく。正則化を明示的に置く構成は、その反復が自己模倣に陥るのを抑えるためのものである。
手法: ハーネスの構成要素単位の編集を反復的に提案・選択する自己改良ループに正則化を導入し、凍結バックボーンの上で再帰的な改良を安定化する。
WorldCrafter: Consistent Video World Model with Implicit 3D-aware Memory
著者: Wangbo Yu, Kunhao Liu, Wenbo Hu et al.
動画ワールドモデルは動的な環境の対話的探索を可能にするが、長期地平にわたって、また視点をまたいで、過去の観測を尊重することに苦戦する（112 upvotes）。本研究は、この目的のためにカメラから問い合わせ可能な暗黙的 3D 認識メモリを学習する動画ワールドモデル WorldCrafter を提示する。
新規性: 一貫性の破れを生成品質の問題ではなく、過去の観測を保持する記憶構造の欠落として位置づけた点が中核である。動画生成の一貫性は時間方向の注意やフレーム間の条件付けとして扱われるのが通例である——だが視点が一周して戻ってきたとき、参照すべき観測は直近の数フレームではなく、その場所を以前に見たときの内容であり、系列としての近さでは引けない。カメラで問い合わせ可能な 3D 認識メモリという構成は、その参照を空間の側から引けるようにするためのものである。
手法: カメラ姿勢を鍵として問い合わせられる暗黙的な 3D 認識メモリを学習し、長期地平・多視点での観測の一貫性を保つ動画ワールドモデルを構成する。
GameHorizon Suite: Multi-Horizon Data and Evaluation in Gameplay
著者: Yiran Wang, Xingyilang Yin, Junfu Pu et al.
現代のビデオゲームは AI モデルにとって測定可能なテストベッドを提供し、視覚理解・指示分解・目標計画・精密な行動制御という能力を複数の時間地平にわたって組み合わせて要求する（110 upvotes）。既存のデータセットとベンチマークは、扱うゲームの範囲が狭いか、言語的な記述を欠くかのいずれかだと本研究は指摘する。
新規性: ゲームプレイの能力を単一の成功率ではなく、時間地平ごとに分解して測る対象として定式化した点が中核である。ゲーム環境の評価はクリア率やスコアの集約として進むのが通例である——だが瞬間的な操作精度と、数十手先を見据えた目標計画は別の能力であり、一つの数値に畳み込むとどちらが欠けているかが見えなくなる。マルチ地平のデータと評価を揃える構成は、その分解を評価の側に持ち込むためのものである。
手法: 視覚理解・指示分解・目標計画・精密な行動制御を複数の時間地平にわたって測るデータセットと評価スイートを、広いゲーム範囲と言語記述付きで構築する。
Transferring the Intelligence of VLMs to Robotic Control
著者: Meng-Hao Guo, Zhe-Han Mo, Jia-Jun Wang et al.
人間は物理世界とデジタル世界の双方にシームレスに適応でき、このことは、身体性・環境・タスクの面でデジタルと現実の間にギャップが存在する一方、人間の知能そのものはそのギャップを越えて転移しうることを示唆する（101 upvotes）。ここから本研究は、視覚言語モデルの知能もまた同じギャップを越えられるのかという根本的な問いを立てる。
新規性: VLA の議論を「ロボットデータでどう微調整するか」から「VLM が既に持つ知能のうち何が転移するのか」という問いへ引き戻した点が中核である。視覚言語モデルのロボットへの応用は、行動トークンを足して実機データで学習させる形で進むのが通例である——だが微調整が何を新たに獲得させ、何を単に取り出しているのかは区別されないまま残り、デジタル側の知能がどこまで効いているかが測れない。転移そのものを問いに据える構成は、その区別を扱えるようにするためのものである。
手法: 身体性・環境・タスクにまたがるデジタル–現実ギャップを明示的に切り分け、視覚言語モデルの知能をロボット制御へ転移させる枠組みを構成・検証する。
OmniEdu: Open Foundation Models for Learning and Teaching
著者: Hao Liang, Qihan Lin, Meiyi Qiang et al.
教育向けの基盤モデルは、問題を解き、カリキュラムの構造を理解し、学習者の困難を診断し、適切な指導的支援を提供する必要がある（66 upvotes）。既存の教育向け言語モデルは問題解決か個別指導のいずれかに偏り、学習データの混合もソースやタスク単位で組まれていると本研究は指摘する。
新規性: 教育モデルの要件を解答精度から「カリキュラム構造の理解と学習者の困難診断を含む一揃い」へ拡張し、訓練データの組み方をその要件の側から設計した点が中核である。教育向け LLM の改善は数学やサイエンスのベンチマーク精度として測られるのが通例である——だが解ける問題と教えられる問題は別で、学習者がどこで詰まっているかの診断は正解を出す能力とは独立に必要になる。能力単位でデータ混合を組み直す構成は、その独立性を訓練側に反映させるためのものである。
手法: 問題解決・カリキュラム構造理解・困難診断・指導支援を一体の要件として扱い、ソースやタスクではなく能力の観点で訓練データ混合を編成したオープンな教育基盤モデルを構築する。
Document Retrieval-Aware Chunking (D-RAC): Universal Retrieval-Aware Ingestion of Enterprise Documents
著者: Uday Allu, Abhivanth Sivaprakash, Pratik Singh et al.
企業のナレッジベース上の RAG システムは、PDF・Word 文書・プレゼンテーション・スキャンといった異種の文書形式を取り込む必要があり、その内容は複雑な視覚レイアウト、多段組みのページ、密なテーブルの中に閉じ込められている（48 upvotes）。規則ベースの抽出や OCR はこうした構造を破壊してしまうと本研究は指摘する。
新規性: チャンキングを取り込み後の後処理ではなく、検索を前提とした取り込みそのものの設計問題として扱った点が中核である。RAG の前処理はテキストを抽出してから固定長や見出しで切る流れで進むのが通例である——だが多段組みや表を含むページでは抽出の時点で読み順と構造が崩れており、そこから切り出したチャンクは何をどう切っても元の意味単位に一致しない。PDF 正規化とマルチモーダル Markdown 変換を挟む構成は、切る前に構造を復元するためのものである。
手法: 異種の企業文書を PDF へ正規化し、マルチモーダルな Markdown 変換を経て構造を保ったまま検索を意識したチャンクに分割する、汎用の RAG 取り込みパイプラインを構成する。
VideoGen-Agent: Reinforcing Video Generation Agents
著者: Binxu Li, Haoyi Duan, Yuhui Zhang et al.
動画生成モデルの近年の進展により、高忠実度で時間的に一貫した動画の生成が可能になった（35 upvotes）。しかしこれらのモデルは、専門的な知識、特定の同一性、物理的整合性、順序付けられた事象を要求するプロンプトを満たすことにしばしば苦戦すると本研究は指摘する。
新規性: 動画生成の失敗を単発の生成品質ではなく、プロンプトの要求を満たすまでの過程として扱った点が中核である。生成モデルの改善は学習データやアーキテクチャの強化として進むのが通例である——だが「この人物が、この順序で、物理的に矛盾なく」という要求は一回のサンプリングで満たされる保証がなく、どこが満たせていないかはモデル自身の出力を見てはじめて分かる。生成をエージェント化して強化学習で回す構成は、その確認と修正の過程を学習対象に含めるためのものである。
手法: 動画生成をエージェントとして構成し、専門知識・同一性・物理的整合性・事象順序といった要求への適合を強化学習で改善する。
onPanda: Efficient Annotation of On-Policy Alignment Data for LLMs and Agents via Token-Level Correction
著者: Lei Yang, Mengyin Liu, Jia Wang et al.
本研究は、LLM のアライメントデータとエージェント軌跡を効率的に注釈するための対話的ツール onPanda を提示する（27 upvotes）。中核となる操作はトークン単位の修正であり、注釈者はモデルの応答を読みながら最初の不適切なトークンを特定し、モデルの候補から代替を選ぶか自ら書き換える。
新規性: アライメントの注釈単位を応答全体の優劣からトークン位置へ下ろし、しかもそれを注釈者の操作として設計した点が中核である。選好データの収集は二つの応答を並べてどちらが良いかを選ぶ形で進むのが通例である——だが応答の大半が妥当で一箇所だけが崩れている場合、全体への一票は「どこが問題か」を捨ててしまい、モデルは何を直せばよいか分からないまま更新される。最初の不適切トークンを指す構成は、その位置情報を注釈の段階で保存するためのものである。
手法: 応答を読み進めながら最初の不適切トークンを指定し、モデルの候補からの選択または書き換えで修正する対話的注釈ツールを構成し、オンポリシーなアライメントデータとエージェント軌跡の注釈に適用する。
Harness-Zero: Harness Distillation via Agent-as-Harness
著者: Haoran Ye, Yuxing Lu, Haonan Dong et al.
エージェントハーネス、すなわちモデルと環境の相互作用を仲介する外部システムは、エージェントの性能を大きく改善しうるが、その恩恵は配備時のハーネスに縛られたままである（12 upvotes）。最良のハーネスはドメイン・実例・モデルによって変わるため、汎用エージェントは一つで妥協するか、切り替えの仕組みを持つしかないと本研究は指摘する。
新規性: ハーネス依存を「どのハーネスを選ぶか」ではなく「ハーネスをモデルの内側へ畳み込む」問題として立てた点が中核である。ハーネスの多様性はルーティングや構成の自動探索で扱われるのが通例である——だが最良の構成が実例ごとに変わるなら、選択の仕組み自体が新しい依存になり、配備先で同じ外部システムを再現する必要が残る。エージェント自身をハーネスとして蒸留する構成は、その外部依存を取り去るためのものである。
手法: エージェント自身をハーネスと見なし、ハーネスがもたらす性能利得をモデル側へ蒸留することで、配備時に特定の外部ハーネス構成へ依存しない形を目指す。
1% of Tokens Can Be Enough: On Gradient Estimation in On-Policy Distillation
著者: Huanxin Sheng, Zhiling Ye, Haonan Wang et al.
疎なオンポリシー蒸留（OPD）は、生徒が生成した軌跡のうち小さな部分集合のトークンにのみ教師の監督を割り当てる（7 upvotes）。しかし有用な教師の指導であっても、その勾配がサンプルされた次トークンから推定される場合にはノイズの多い更新を生じうると本研究は指摘し、固定したプレフィクス上でこの推定問題を解析する。
新規性: 疎な監督の議論を「どのトークンを選ぶか」から「選んだトークンでの勾配推定がどれだけ正確か」へずらした点が中核である。トークン選択の研究は選択基準の良し悪しとして比較されるのが通例である——だが基準が正しく重要なトークンを選んだとしても、そこでの勾配が一つのサンプルから推定されるなら分散が残り、選択の良さと推定の粗さが混ざったまま結果に出る。固定プレフィクス上で推定問題を切り出す構成は、その二つを分けて見るためのものである。
手法: 固定したプレフィクスにおける疎な OPD の勾配推定を解析し、サンプルされた次トークンに由来する推定ノイズの構造を明らかにしたうえで、ごく少数のトークンでも十分な監督となる条件を示す。
分野別の動向
エージェントハーネスをめぐる二つの方向
RRSI（152 upvotes）と Harness-Zero（12 upvotes）が、同じ「ハーネス依存」という問題に対して正反対の解を出している点が一日の構図を作っている。前者はハーネスを改良し続ける対象として残し、その反復を正則化で安定させる。後者はハーネスの利得をエージェント自身へ蒸留し、配備時の外部システム依存そのものを消しにいく。One to More, More to One はこの帯の隣で、リポジトリ規模のソフトウェア工学タスクをカテゴリごとに分けた反復的なエキスパート訓練を提案し、プールした agentic RL では一部カテゴリの改善が他方の劣化と同時に起きて総合解決率がその変化を覆い隠すと指摘する。ハーネス・訓練・タスク構成のどの層で汎用性を確保するかという問いが、三者に共通している。
長期地平の記憶と一貫性
WorldCrafter がカメラ問い合わせ可能な暗黙的 3D メモリで視点をまたぐ一貫性を扱うのに対し、Jev-Mem（11 upvotes）はエージェント記憶の制御そのものを問題にする。既存のエージェント記憶系は記憶の整理・検索・利用を自己回帰的な LLM に委ねており、高価な生成が記憶操作のクリティカルパスに乗ってしまう——その生成を外す設計を提示する。arXiv 側では StepKV が KV キャッシュ圧縮の単位を「トークン」から「推論ステップ」へ引き上げ、初期の観測や中間判断が直近の注意をほとんど受けないまま後段の証拠統合に不可欠であり続ける失敗を「Reasoning Continuity Disruption」と名づける。PAGE は逆に、退避すべきか否か自体を入力ごとの受理判断として捉え直し、prefill の注意から計算した無ラベルのスカラで破滅的なケースを事前に弾いて危害率を 0.75 から 0.026 へ下げると報告する。記憶を「何を残すか」ではなく「どの単位で、いつ残さないと決めるか」で扱う動きが揃っている。
ロボティクスと視覚言語モデルの接続
Transferring the Intelligence of VLMs（101 upvotes）を筆頭に、VLA 周辺が厚い一日である。Grounded Action Model（20 upvotes）は、VLA の言語バックボーンにせよ world-action モデルの動画生成バックボーンにせよ、事前学習された基盤は「どの物体が重要でどこにあるか」という計量的な接地を直接には要求しないと指摘し、3D グラウンディングをロボティクスの基盤に据える。HuRo（18 upvotes）は人間の動画をロボット化して VLA の事前学習をスケールさせ、CARE（11 upvotes）は公称軌道から逸脱した後の回復を失敗経験から学ぶ。ShieldVLA は、期待値上の制約に対するソフトペナルティで安全性を課す Lagrangian 型の微調整が限定的な保証しか与えない点を問題にし、実行可能性を意識した安全アライメントを構成する。生成の忠実度ではなく、逸脱・失敗・安全違反が起きた後をどう扱うかへ関心が移っている。
訓練手法と評価の前提の見直し
1% of Tokens が疎なオンポリシー蒸留の勾配推定を切り出したのと同じ帯で、arXiv の A Shared Learning Rate Is Not a Neutral Control が、選択的オンポリシー蒸留の比較で慣例的に共有される単一の学習率が中立な統制ではないことを示す。密な監督は学習率にわたってほぼ平坦（振れ幅 1.8 pp）である一方、選択的な各条件は学習率とともに動き、teachability セレクタでは 17.7 pp に達する。結果として密対選択の判定は同じ実験で 10.1 pp とも 5.1 pp とも読め、セレクタ間の有意性判定も隣接する学習率の間で反転しうる——著者はこれを selector-rate entanglement と呼び、共有学習率の一列ではなく条件×学習率の行列を報告することを比較の前提条件として求める。GVPO++ は重要度サンプリングへの依存から来る訓練不安定性を、KL 制約付き報酬最大化の解析解を勾配重みに組み込むことで外す。Efficient Benchmarking in Production は、月間数万ユーザーの本番分析エージェントで 574 回分の履歴を用い、IRT ベースの適応テストが 38.5% の問題数で 1.03 pp の MAE を達成する一方、運用の単純さから難易度層化した固定部分集合を実際には配備したという一次情報を報告している。手法そのものより、手法を比較する枠組みの妥当性を問う論文が目立つ一日である。