動画生成世界モデルを挙動分布の再現能力で測るPAWBenchが138 upvotesで首位。コーディングエージェントのループ制御を評価するLoopArena、ゼロデータ自己進化のJ-Zero、実行中に学ぶPILOTなど、評価軸の精緻化と自己進化の実運用化が並んだ。
注目論文
PAWBench: How Far Are We from Probabilistically Aligned World Modeling?
著者: Yuandong Pu, Le Zhuo, Sayak Paul et al.
近年の動画生成モデルは世界モデルとして位置づけられることが増えているが、多くの物理過程は複数の妥当な形で展開しうる（138 upvotes）。したがって世界モデルは、もっともらしい軌跡を1本再現するだけでなく、同じ初期観測と行動の下で起こりうる挙動の分布そのものを再現すべきだと本研究は論じる。
新規性: 世界モデルの評価基準を、単一軌跡の妥当性から挙動分布の整合性へ移した点が中核である。既存の動画生成評価は「生成された動画が自然に見えるか」を問うため、モデルは最も典型的な1つの結末に賭ければ高得点を得られる——落下する物体がどちらに転がるか本来は不確定でも、常に同じ方向へ転がすモデルが咎められない。しかし世界モデルを計画や制御に使う場合、起こりうる結果の広がりを取り違えることは、平均的にもっともらしい映像を作れることより重大な欠陥である。確率的な整合性を明示的な評価軸に据えたことで、決定論的な見た目の良さと確率的な正しさを分離して測れるようになる。
手法: 同一の初期観測と行動の下で複数の妥当な展開が存在する物理過程を対象に、生成される挙動の分布が現実の分布と整合しているかを測るベンチマークを構成する。
LoopArena: Benchmarking Models as Runtime Controllers for Loop Engineering
著者: Yi Wang, Haopeng Zhang, Chengxiang Huang et al.
Loop Engineeringは、コーディングエージェントを中心に開発作業を組織する実践として台頭しつつある（82 upvotes）。実務者は各プロンプトを手書きする代わりに、進捗を監視し、作業を割り当て、チェックを走らせ、エージェントが次に何をすべきかを決めるループを設計する。有能なコーディングエージェントを使っていても、ループ自体が失敗しうる。
新規性: 評価対象を、コードを書くエージェント本体からそれを回すループの制御役へ移した点が中核である。既存のコーディングベンチマークはタスクを1回渡して成否を測るため、実際の開発で支配的な「いつ止めるか、何を再試行させるか、どのチェックを信じるか」という判断が測定範囲の外に落ちる——エージェント単体の能力が十分でも、ループが誤った停止判定を下せば成果は出ない。モデルをランタイム制御器として評価する構成は、エージェント運用の失敗をエージェントの能力不足と切り分けるものであり、同日のStarHarnessやTaoLiveがハーネス側の進化を扱うのと問題意識を共有している。
手法: 進捗監視・作業割り当て・検査実行・次アクション決定といったループ制御の役割をモデルに担わせ、その制御判断の質を測るベンチマークを構築する。
DART-SD: Diamond-topology Aware Retrieval and Tuning for Self-Distillation of Multi-Turn Tool-Calling Agents
著者: Hangrui Xu, Jiarui Wang, Yang Yang et al.
LLMに複数ターンのツール呼び出し能力を与えることは自律エージェント構築に不可欠だが、進歩は全長軌跡の模倣への依存によって根本的に制限されている（60 upvotes）。順序に依存しない複数の部分目標を含むタスクでは、最適解は1本の系列に定まらない。
新規性: ツール呼び出しの学習信号を、線形な軌跡からダイヤモンド型のトポロジーへ一般化した点が中核である。全長軌跡の模倣は教師の実行順序をそのまま正解として押しつけるため、A→BとB→Aがどちらも正しいタスクで、モデルは片方だけを正解と学び、もう片方を誤りとして罰せられる——本来は等価な解が学習を歪める負の信号になる。部分目標間の順序非依存性を明示的に扱うことで、同じ軌跡データからより多くの妥当な解を取り出せるようになり、自己蒸留のサンプル効率を軌跡の量ではなく構造の理解で引き上げようとしている。
手法: 順序非依存な部分目標が作るダイヤモンド型のトポロジーを考慮した検索とチューニングを導入し、全長軌跡の模倣に依存しない多ターンツール呼び出しエージェントの自己蒸留を行う。
Beyond Data Scaling: Representation-Centric Continued Pre-training for Vision-Language-Action Models
著者: Senqiao Yang, Chengyao Wang, Yuxin Chen et al.
汎用的なVision-Language-Action（VLA）モデルの構築にはロボットデータのスケーリングが不可欠だが、身体化された収集は高コストで物理世界を疎にしかカバーしないため、ロボット軌跡はウェブ規模の画像・テキストほど容易にスケールしない（59 upvotes）。このことは表現の品質を中心的なボトルネックにする。
新規性: VLAの改善方向を、データ量の追求から表現品質の改善へ切り替えた点が中核である。言語モデルの成功体験はデータとパラメータを増やせば伸びるという期待を生んだが、ロボット軌跡は実機を動かして初めて得られるため、同じ曲線に乗せられない——収集コストが物理法則に縛られている領域では、スケーリング則をそのまま輸入できない。データが増やせないという制約を出発点に、継続事前学習の対象を表現そのものに定める構成は、同日のZero-WAMやPonderPounceが人間動画や事前学習済みMLLMの文脈能力を流用しようとするのと同様、ロボットデータの希少性を前提とした設計の系譜に属する。
手法: ロボット軌跡のスケーリングを前提とせず、表現品質を主対象に据えた継続事前学習によってVLAモデルの汎化を改善する。
Agentic Artifact Creation: Systems, Evaluation, Principles, and Opportunities
著者: Tianfu Wang, Zhezheng Hao, Xilin Xia et al.
生成モデルは自然言語のプロンプトを画像・テキスト・コードなどへ変換し、下書きや部品を作るコストを下げてきた（51 upvotes）。その実用的な影響は、それらの断片が完全で信頼できる成果物になりうるかにますます依存している。本サーベイはエージェント的な成果物生成を体系的に整理する。
新規性: 生成AIの評価軸を、断片の品質から納品可能性へ引き上げて整理した点が中核である。プロンプト1回で得られる出力は下書きとしては十分でも、そのまま納品できることは稀であり、実務での価値は「あと何工程必要か」で決まる——単発の生成品質を測る既存の評価はこの距離を捉えない。成果物を完成させるまでの過程をエージェントの仕事として定義し、システム構成・評価・原理を横断的に整理する構成は、断片生成から成果物生成への移行を分野の共通課題として明示するものである。
手法: エージェント的な成果物生成に関する既存システムを整理し、評価手法と設計原理を体系化した上で、未解決の機会を特定するサーベイを構成する。
GameWAM: A World Action Model for Video Games
著者: Yuncheng Guo, Zhanqiu Zhang, Yiwen Guo et al.
現代のビデオゲームは一人称視点の知覚、急速な視覚変化、永続的な世界状態、多様なネイティブ操作を組み合わせている（45 upvotes）。既存のゲームエージェントは視覚とタスク文脈を行動へ直接写像するが明示的な世界ダイナミクスのモデリングを欠き、一方でインタラクティブなゲーム世界モデルは視覚の未来を予測する。
新規性: 行動を出すエージェントと未来を予測する世界モデルという分断を、単一の世界行動モデルとして統合しようとした点が中核である。視覚から行動へ直結する方策は反応は速いが、いま押したボタンが世界状態をどう変えるかを内部に持たないため、永続的な状態に依存する判断で破綻する——一方の世界モデルは未来の映像を作れても、それをどの操作へ翻訳するかを持たない。両者を接続する構成は、同日のCode as Worldsが物理推論のために明示的な世界表現を求めるのと同じく、行動の根拠となる世界の内部表現を欠いたまま性能を伸ばす路線への修正として読める。
手法: 視覚・タスク文脈から行動を出す方策に明示的な世界ダイナミクスのモデリングを組み込み、ゲーム環境の永続的な状態と多様な操作系を扱う世界行動モデルを構成する。
Code as Worlds: Agentic Discovery of Executable World Representations for Physical Reasoning
著者: Hanyang Wang, Yimo Cai, Weiliang Chen et al.
物理的な理解と推論は、世界についてのコンパクトで汎化可能な表現を形成できるかに依存する（43 upvotes）。現代の視覚言語モデルは多様な物理事象を認識し説明できるが、物体の状態や物理法則といった背後のメカニズムの明示的な表現をしばしば欠いている。
新規性: 世界の内部表現を、潜在ベクトルではなく実行可能なコードとして獲得しようとした点が中核である。VLMは物理事象について流暢に説明できるが、その説明が内部の一貫したモデルに支えられている保証はない——同じ場面について矛盾する予測を出しても、テキスト出力の段階では気づかれない。物体状態や法則をコードとして書き下せば、実行して結果を確かめられるため、表現が正しいかどうかが検証可能になる。エージェントにその表現を発見させる構成は、同日のGameWAMやPAWBenchと同じく、見た目の妥当性ではなく機構の正しさを問う流れに属する。
手法: 物体状態や物理法則を実行可能なコードとして表現し、エージェントがその世界表現を発見・検証することで視覚言語モデルの物理推論を支える枠組みを構成する。
J-Zero: Unified Challenger—Solver—Judge Co-Evolution from Zero Data
著者: Gyouk Chu, Myeongho Jeon, Eunho Yang
自己進化する言語モデルは人間の監督コストを削減できる利点を持ち、超知能への有望な道筋として注目されてきた（35 upvotes）。検証可能な領域では相当の進展があった一方、検証困難な領域における自己進化はいまだ大きく未開拓である。
新規性: 自己進化の適用範囲を、正誤が機械的に判定できる領域の外へ広げるために、判定役そのものを共進化の対象に含めた点が中核である。数学やコードでの自己進化が機能するのは、生成した解を実行や照合で検証できるからであり、その足場がない領域では出題も解答も評価も同じモデルの誤りを増幅しうる——判定が固定されていれば、そのバイアスを突く方向へ解答者が最適化される。出題者・解答者・評価者を三つ巴で同時に進化させる構成は、この報酬ハッキングを構造で抑えようとするものであり、外部データを一切前提としない設定と組み合わせている。
手法: 出題者・解答者・評価者の3役を単一の枠組みに統合してゼロデータから共進化させ、検証困難な領域における自己進化を成立させる。
PILOT in the Loop: Live Self-Improvement for Long-Horizon Agents
著者: Yang Xiao, Yusong Sun, Haoyi Wu et al.
長期のエージェント実行は、現在の実行と将来の作業の双方を改善しうる経験を生む（30 upvotes）。しかし大半の自己改善手法はこの経験を実行終了後にしか処理しないため、進行中の実行の軌道を修正することも、そこで得た教訓を即座に適用して検証することもできない。
新規性: 自己改善のタイミングを、実行後の振り返りから実行中の介入へ移した点が中核である。実行後に経験を蒸留する方式は、次回以降の実行には効くが、いま失敗しつつある実行を救えない——長時間タスクでは、誤った前提のまま数十ステップ進んでから振り返っても損失は確定している。実行中に教訓を抽出して即座に適用し、その効果を同じ実行内で検証するという構成は、学習と実行の分離を崩すものであり、同日のStarHarnessやTaoLiveがハーネスの進化を扱うのに対し、こちらは進行中の1回の実行そのものを改善対象にしている。
手法: 長期エージェントの実行中に得られた経験からその場で教訓を抽出し、進行中の実行へ適用してその効果を検証する自己改善の仕組みを構成する。
Puro-2B: Poor Lab’s Qwen2-1.5B Trained on RTX 5090 within $5090
著者: Kairong Luo, Jiarui Cui, Yaorui Yin et al.
言語モデルの事前学習は法外なコストとほぼ同義になり、学術界やオープンソースコミュニティの多くにとって手の届かないものになっている（27 upvotes）。オープンな重みや訓練レシピといった強力な取り組みは既に存在するが、コスト効率が高くハードウェアに即した再現可能な道筋は乏しい。
新規性: 事前学習の再現可能性を、レシピの公開ではなく到達可能なコストとハードウェアの明示によって定義した点が中核である。オープンな訓練レシピは公開されていても、前提とする計算資源が数百GPUであれば、小規模な研究室にとっては読めるだけで走らせられない——再現性の障壁は情報ではなく予算である。RTX 5090一枚・総額5090ドルという具体的な制約下で事前学習を完遂したという報告は、その障壁の高さを実測値として提示するものであり、コスト条件そのものを研究成果の一部として扱っている。
手法: RTX 5090単体・総額5090ドル以内という制約の下でQwen2-1.5B規模の事前学習を完遂する、ハードウェアに即したコスト効率の高い訓練レシピを構成する。
分野別の動向
世界モデルと物理推論
今日の中心は、世界モデルの評価と表現の両面で「もっともらしさ」からの脱却にある。PAWBenchは同一初期条件下で複数の展開が起こりうることを前提に、単一軌跡の妥当性ではなく挙動分布の整合性を測る枠組みを提示した。Code as Worldsは物体状態や物理法則を実行可能なコードとして獲得させることで表現の正しさを検証可能にし、GameWAMは視覚から行動への直結に明示的な世界ダイナミクスを挟み込む。いずれも、出力が自然に見えることと内部の機構が正しいことを分離しようとしている。
エージェントの自己進化と運用
自己進化の議論は、手法の提案から運用条件の詰めへ移りつつある。J-Zeroは出題者・解答者・評価者を同時に進化させることで、判定が固定されている限り避けられない報酬ハッキングを構造で抑え、検証困難な領域への適用を狙う。PILOTは自己改善のタイミングを実行後から実行中へ移し、進行中のタスクを救える改善へ踏み込んだ。LoopArenaはさらに外側で、エージェントを回すループの制御判断そのものを評価対象に据えており、StarHarnessやTaoLive、EvoUndoといった同日の論文群とあわせて、ハーネスとループの設計が独立した研究対象になりつつあることを示している。
身体化AIとVLA
VLA分野では、ロボットデータが原理的にスケールしないという制約を出発点に据える研究が目立つ。Beyond Data Scalingは収集コストの壁を認めた上で表現品質を主対象に置き換え、Zero-WAMは人間動画からの文脈内世界行動モデリングで未見タスクへの汎化を、PonderPounceは事前学習済みMLLMの長い視覚履歴処理能力をエピソード記憶として流用することを試みる。TacForcingは実行中の触覚フィードバックで行動チャンクの陳腐化に対処しており、データ量以外の資源をどう使い切るかが共通の関心になっている。
ツール利用と学習信号の設計
エージェント訓練では、教師データの構造をどう解釈するかが論点になっている。DART-SDは順序非依存な部分目標を持つタスクで全長軌跡の模倣が誤った負の信号を生むことを指摘し、ダイヤモンド型トポロジーを考慮した自己蒸留を提案した。WikiSkillは経験から抽出されたスキルではなく抽出を導く洞察を永続化し、CaSKGは反事実的因果のスキルグラフでスキル検索の粒度問題に取り組む。同じ軌跡データからより多くの妥当な学習信号を取り出すという方向で一致している。
効率化とアクセシビリティ
計算資源の制約に正面から取り組む研究も続いている。Puro-2BはRTX 5090一枚・5090ドル以内という条件で事前学習を完遂し、再現性の障壁が情報ではなく予算であることを実測値で示した。Sliding-window beats linear attentionは二次アテンションの代替として提案されてきた線形手法に対しスライディングウィンドウの優位を主張し、arXiv側ではDAMPがGated DeltaNet系の再帰状態の後訓練量子化を、Trajectory-Level Speculative Decodingが拡散言語モデルの軌跡単位の投機的デコーディングを扱う。推論コストの削減対象が、KVキャッシュから再帰状態やデノイジング軌跡へ広がっている。