再帰的自己改善を狙うNeoHorse-1が371 upvotesで突出し、OpenWAMとGE-Act 2.0がWorld-Action Modelの事前学習とスケーリング自体を対象化した。音声基盤モデルAuK、ストリーミング常時対話のGander、本番運用級の事後学習基盤Miles v0.1も並び、モデルの提案から学習インフラの設計へ関心が移っている。
注目論文
NeoHorse-1: Towards Recursive Self-Improvement via Agentic Post-Training with Routing Harness
著者: NeoHorse Team, Guoliang Cao, Guohao Dai et al.
再帰的自己改善（RSI）には、AIシステムが自らの能力を観測し、その証拠を次の学習ラウンドへ変換する具体的な機構が要る（371 upvotes）。NeoHorse-1 は、エージェンティックな事後学習を通じてこの道筋を探るために開発された、エージェントネイティブなモデル群である。
新規性: 自己改善を能力の話ではなく機構の話として置き直した点が中核である。「モデルが自分を良くする」という主張は通常、性能指標の上昇として事後的に語られる——だが RSI を工学的に扱うなら、何を観測し、その観測をどう次の学習信号へ変換するかという経路が明示されていなければならない。ルーティングハーネスを学習ループの一部として組み込む構成は、その変換経路を設計対象として名指しするものである。
手法: ルーティングハーネスを備えたエージェンティック事後学習によって、エージェントネイティブなモデル族を訓練し、能力の観測から次ラウンドの学習への変換を繰り返す枠組みを構成する。
AuK Technical Report: An Open-Source Foundational Model for Speech Generation and Editing
著者: Ziyang Ma, Zhikang Niu, Wenming Tu et al.
AuK は、自然言語による指示と音声の文脈という共通インタフェースのもとで、音声生成と音声編集を統合するオープンソースの基盤モデルである（174 upvotes）。この広範な能力を支えるため、著者らは約30.3億件の指示-音声インスタンスと195万時間規模のデータを構築した。
新規性: 生成と編集を別タスクとして扱う慣行を、単一の指示インタフェースへ畳み込んだ点が中核である。音声合成と音声編集は従来、入力の形式も評価軸も異なるものとして別々のモデルで扱われてきた——しかし「この声で読み上げて」と「この部分をこう直して」は、いずれも音声文脈への自然言語指示として書ける。インタフェースの統一は、そのぶんの能力をデータ規模で買う設計選択と対になっている。
手法: 自然言語指示と音声文脈を共通入力とし、約30.3億の指示-音声インスタンス・195万時間の音声で学習した音声基盤モデルをオープンソースとして公開する。
Omni Interaction Agent Technical Report
著者: Orantqing, Shengpeng Ji, Junlong Tong et al.
本稿が提示する Gander は、全方位的な知覚・リアルタイム対話・エージェント能力を単一の枠組みへ統合したエンドツーエンドモデルである（110 upvotes）。従来のターン制パラダイムとは対照的に、映像・音声を含む複数モダリティのストリーミング入力を連続的に受け取り続ける。
新規性: 対話の単位をターンからストリームへ置き換えた点が中核である。ターン制のモデルは、入力が終わったことを合図として推論を始める——そのため相手の話の途中で状況が変わっても、モデルはそれを知る手段を持たない。連続受信を前提にすることは、割り込み・相槌・状況変化への追従を後付けの機能ではなくアーキテクチャの制約として扱うことを意味する。
手法: 映像・音声等のストリーミング入力を連続的に受信し、全方位知覚・リアルタイム対話・エージェント的な行動を単一のエンドツーエンドモデルで処理する。
Eliciting Weak-to-Strong Generalization with On-Policy Reverse Distillation
著者: Youngrok Park, Sangmin Bae, Hojung Jung et al.
weak-to-strong 一般化は、強いモデルが弱い教師から学び、その教師を超えられるかを問う（78 upvotes）。この問いは、世代を重ねるモデル系列や複数ドメインの統合において特に重要である——フロンティア規模の事後学習を毎回ゼロからやり直すのは、コスト的に許容できないためである。
新規性: 弱い教師の利用を、能力の限界ではなく学習の再利用の問題として位置づけた点が中核である。教師より強い生徒を作るという話は思考実験に見えるが、実務上は「旧世代のモデルが持つ蓄積を新モデルへどう引き継ぐか」という日常的な問題そのものである。オンポリシーの逆蒸留は、教師の出力を正解として写すのではなく、生徒自身の生成分布の上で教師の情報を引き出す構成になっている。
手法: 生徒のオンポリシーなロールアウト上で弱い教師からの信号を逆方向に蒸留し、教師の性能を超える一般化を引き出す事後学習手法を提案する。
DriveZero: End-to-End Driving Beyond Human Demonstrations
著者: Hao He, Chengcheng Hu, Zirun Su et al.
エンドツーエンドの自動運転システムの多くは人間の運転ログを模倣して学習するため、獲得される挙動は記録された軌跡の品質と行動カバレッジに縛られる（50 upvotes）。DriveZero は、人間の実演を超えた運転挙動を学習するエンドツーエンドシステムである。
新規性: 模倣学習の上限を、データ量ではなくデータの分布そのものの限界として扱った点が中核である。運転ログをいくら増やしても、そこに含まれるのは人間が実際に取った行動だけである——事故回避のような稀で難しい状況ほど、良い手本は記録に残らない。実演の外側へ出る学習を設計することは、収集努力では埋まらない領域を対象に据えることを意味する。
手法: 人間の運転ログの模倣に依存せず、実演分布の外側の運転挙動まで学習できるエンドツーエンド自動運転システムを構成する。
OpenWAM: An Open, Modular Exploration Towards Systematic World-Action Model Pretraining
著者: Yuran Wang, Siqiao Huang, Mingleyang Li et al.
World-Action Model（WAM）は、動画生成の事前分布から世界知識を継承し、身体を通じた経験によってそれを実行可能な制御信号へ変換する（48 upvotes）。しかし既存のシステムは一枚岩であり、生成バックボーン・視覚表現・アーキテクチャ・情報フロー・推論手続き・学習手順が一体で提供されている。
新規性: WAM を分解可能なモジュール群として定義し直した点が中核である。一枚岩のシステムでは、性能が出たときに何が効いたのかを切り分けられない——バックボーンの質なのか、情報フローの設計なのか、推論手続きなのかが判別できないまま次の研究が積まれる。各要素を差し替え可能にすることは、事前学習のレシピを体系的な比較の対象へ載せる前提条件である。
手法: WAM を生成バックボーン・視覚表現・アーキテクチャ・情報フロー・推論手続き・学習手順へ分解したオープンでモジュラーな実装を提供し、事前学習の各設計選択を系統的に検証する。
GE-Act 2.0: Pretraining and Scaling a World-Action Model for Robotic Manipulation
著者: AgiBot Research Team, Renhang Liu, Wenzhi Zhao et al.
World-Action Model は未来の状態を予測してロボットの行動を導き、行動ラベルのない動画と行動ラベル付きの相互作用の双方から学習できる（46 upvotes）。だが多くは事前学習済みの動画生成器をそのまま継承しており、WAM 自体の事前学習とスケーリングは未開拓のままだった。Genie Envisioner Act 2.0（GE-Act 2.0）はここに踏み込む。
新規性: 動画生成器の流用という既定路線を外し、WAM の事前学習そのものを研究対象へ引き上げた点が中核である。既存の動画生成器を持ってくれば世界知識は手に入るが、それは動画を作るために最適化された表現であって、行動を導くために最適化された表現ではない——両者が一致する保証はどこにもない。事前学習を自前で設計することは、この暗黙の代用を検証可能な選択肢に変える作業である。
手法: 動画生成器の継承に頼らず、World-Action Model の事前学習手順とスケーリング則を設計し、ロボット操作タスクへ適用する。
Miles v0.1: Production-Level Post-Training
著者: RadixArk, Tom Chen, Mao Cheng et al.
Miles v0.1 は、フロンティア規模の事後学習のためのフルスタックかつ本番運用可能なシステムである（44 upvotes）。slime のクリーンな設計を土台に、強化学習の学習ループの各段階を「コンポーネントは検証済みで、クリーンで、カスタマイズ可能であるべき」という単一の原則に沿って設計している。
新規性: 事後学習を手法ではなくシステムとして扱った点が中核である。RL 事後学習の論文は通常、アルゴリズムの改善として報告される——だが実際に大規模で回すとき、結果を左右するのはロールアウト生成・重み同期・評価といった各段階の実装の正しさである。各コンポーネントの検証可能性を設計原則に据えることは、再現性の問題をアルゴリズムの外側で解こうとする姿勢である。
手法: slime の設計を継承し、RL 学習ループの各段階を検証済み・クリーン・カスタマイズ可能な単位へ分解した、本番運用レベルのフルスタック事後学習システムを構築する。
BeaconKV: Key-Value Cache Compression Guided by Beacon Queries for Efficient Large Reasoning Model Inference
著者: Janghyeon Kim, Minsoo Kim, Kyuhong Shim et al.
大規模推論モデル（LRM）は長い Chain-of-Thought の生成によって高い問題解決能力を得るが、その結果として KV キャッシュが系列長に比例して増大し、深刻なメモリボトルネックを生む（32 upvotes）。長い推論トレースでは GPU の容量を超えることも珍しくない。
新規性: 圧縮の判断基準を、過去のアテンションの統計ではなくビーコンクエリという能動的な問い合わせへ移した点が中核である。既存の KV 圧縮は、これまでのアテンション重みから「重要そうなトークン」を推定して捨てる——しかし推論の途中では、あるトークンが後で必要になるかどうかはまだ決まっていない。ビーコンとなるクエリを投げて反応を見る構成は、この判断を推測から測定へ寄せるものである。
手法: ビーコンクエリを用いて各 KV エントリの将来的な必要性を評価し、その結果に導かれる形で推論モデルの KV キャッシュを圧縮する。
Reason Through the Latent! Making Latent Visual Reasoning Necessary
著者: Suhyeong Park, Junha Jung, Jaewoo Kang
潜在的な視覚推論は、明示的なテキストの思考連鎖ではなく隠れ状態の計算によってマルチモーダル推論を行うことを目指す（30 upvotes）。しかし、視覚情報が潜在状態に存在することは、モデルが答えを出す際に実際にその状態へ依拠していることを意味しない。
新規性: 「情報が入っていること」と「その情報が使われていること」を分離して評価した点が中核である。潜在表現をプローブして視覚情報が復元できれば、視覚推論が成立していると解釈されがちである——だがモデルは、その潜在状態を迂回して言語側の事前知識だけで答えを当てているかもしれない。潜在経路を必然化する設計は、この見かけ上の成功を排除するための介入である。
手法: 潜在状態を経由しなければ解けない条件を課すことで、視覚情報の潜在表現への符号化と、その表現への実際の依拠とを一致させる学習・評価の枠組みを構成する。
分野別の動向
World-Action Model の事前学習
今日もっとも密度が高かったのは、World-Action Model（WAM）の内部を開く動きである。OpenWAM は一枚岩だった WAM を生成バックボーン・視覚表現・情報フロー・推論手続きへ分解し、各設計選択を比較可能にする。GE-Act 2.0 は、既存の動画生成器を継承するという既定路線を外し、WAM の事前学習とスケーリングそのものを対象化する。動画生成の事前分布を借りてくる段階から、行動のための事前学習を自前で設計する段階へ移りつつある。TANGO は全身の幾何適応を要する humanoid のナビゲーションを、RoboSPA は VLA モデルが単純なシーンと短期タスクを超えられるかを問い、SimpleMemVLA は長期操作の部分観測性を native-video メモリで扱う。CosmoH2G は人間の手からグリッパーへの転移を複雑な空間運動まで拡張する。
エージェンティック事後学習と自己改善
NeoHorse-1 は、能力の観測を次ラウンドの学習信号へ変換する機構としてルーティングハーネスを置き、再帰的自己改善を工学的な設計問題へ落とす。Eliciting Weak-to-Strong Generalization は、弱い教師からの学習をオンポリシーの逆蒸留として構成し、世代間・ドメイン間の学習資産の引き継ぎを扱う。Environments as Scaffold は、長期タスクにおける報酬の疎さに対して、エージェント側の SFT ではなく環境側のフィードバックを豊かにする経路を取る。Procedural Graphs は、履歴の上での無制約な生成に任されていた手続き的知識を、自己進化する実行構造として明示する。前日のオンポリシー蒸留をめぐる議論と地続きで、教師信号をどこから取り出すかという問いが続いている。
学習・推論インフラ
Miles v0.1 は、RL 事後学習を手法ではなくシステムとして扱い、各コンポーネントの検証可能性を設計原則に据える。Online Draft Co-Training は、ロールアウト生成がコストを支配する RL 事後学習において、投機的デコーディングのドラフトをオンラインで共訓練する構成を大規模・長文脈へスケールさせる。BeaconKV は長い CoT による KV キャッシュ増大を、A*-Thought-V2 は CoT 自体の連続的圧縮を扱う。Kalman Delta Networks は線形アテンションの固定サイズ記憶における書き込み判断を不確実性込みで扱い、SQS はプルーニングと量子化を統一する。手法の提案よりも、既存手法を本番規模で回すための土台を整える論文が目立つ。
マルチモーダルと音声インタラクション
AuK は音声生成と編集を自然言語指示のもとで統合し、約30.3億インスタンスの規模でその汎用性を支える。Gander はターン制を捨て、ストリーミング入力の連続受信を前提とした常時対話モデルを提示する。What Did I Just Say? は full-duplex 音声モデルにおいて、モデルが「言ったと思っている内容」と実際の出力のずれを自己聴取で埋める。視覚側では、Reason Through the Latent! が潜在視覚推論の見かけ上の成功を排除し、CoVeR は多視点3D推論の冗長トークンをカバレッジ基準で刈り込む。VDiff-Bench は、MLLM が2枚の類似画像の差分という基礎的な比較能力で躓く点を突く。
評価・安全性
EVOHARNESSBENCH は、ツールやスキルが継続的に追加されていくハーネスの変化にエージェントが追随できるかを評価する。MOLE は、フロンティアラボのアカウントで動くエージェントによる内部脅威——重みの流出、学習データの汚染、リリースゲートの弱体化——を、限られたレビュー予算のもとで検出できるかを問う。Counter-Swarm Doctrine は協調的なエージェント侵入の封じ込めを、Privacy Failure in Split-LLM Training は分割学習の privacy 評価が見落とした観測可能なチャネルを事例研究として扱う。Recognition-Refusal Misalignment は、構造的に答えられない質問にモデルが答えてしまう現象を、認識の欠如ではなく認識から棄権へのルーティングの失敗として切り分ける。