Scaling Automatic Research Agents via World Modelsが447 upvotesを集め、研究エージェントの学習そのものを世界モデルで支える方向が前面に出た。NCP-ArchPreviewの潜在空間言語モデルやSenseNova-U1.5の統合マルチモーダルと合わせ、土台の作り替えが並んだ日である。
注目論文
Scaling Automatic Research Agents via World Models
著者: Xiyuan Yang, Sheikh Sarwar, Jingru Cheng et al.
経験的研究の自動化は AI の長年の目標であり、近年の自動研究（AutoResearch）エージェントは、現代の LLM が自力で解法を実装し実行結果から学べるようになったことでその射程に入ってきた（447 upvotes）。本稿はその裏側にあるポストトレーニングの負荷に目を向け、世界モデルを通じて学習をスケールさせる枠組みを提示する。
新規性: 研究エージェントの改善を、エージェントの外側で回る実験基盤ではなく、学習の内側で使う世界モデルの問題として立て直した点が中核である。AutoResearch の性能向上は「実装して回して結果から学ぶ」ループの太さに依存する——だがそのループを実環境の実行だけで支えると、一回の学習信号を得るために実験を丸ごと走らせる必要があり、ポストトレーニングの規模がそのまま計算コストに跳ね返る。実行結果の予測を担うモデルを学習の内側に置く構成は、この律速を外しに行くものである。
手法: 自動研究エージェントのポストトレーニングに世界モデルを組み込み、実行結果からの学習をスケールさせる。
NCP-ArchPreview Technical Report: Moving towards Latent Space Language Models through Next Concept Prediction
著者: NCP Team, Jiaqi Cao, Chiyu Chen et al.
NCP-ArchPreview は、自己回帰的な事前学習を標準的な次トークン予測（NTP）の先へ押し出す潜在空間言語モデルである（285 upvotes）。NTP と並行して、複数トークンにまたがる離散的な「概念」を予測する Next Concept Prediction（NCP）を学習させる。
新規性: 予測の単位をトークンから、複数トークンにまたがる離散概念へ引き上げた点が中核である。言語モデルの事前学習目標は、次の 1 トークンという最小単位に固定されてきた——だがその粒度では、文や段落のまとまりとして持つべき意味が重みの中に暗黙のまま埋め込まれ、明示的な表現として取り出せない。NTP の隣に概念単位の予測を置く構成は、潜在空間側に明示的な粒度を導入するための設計である。
手法: NTP と NCP を併走させ、複数トークンにまたがる離散概念を予測対象に加えることで、潜在空間で動作する言語モデルのアーキテクチャを構成する。
SenseNova-U1.5: Towards Native Unified Visual Intelligence
著者: Haiwen Diao, Jiahao Wang, Chenjing Ding et al.
SenseNova-U1.5 は、視覚コンテンツの理解・推論・生成を単一のモデル内で扱う 8B-MoT のネイティブ統合マルチモーダルモデルである（231 upvotes）。エンコーダフリーかつ VAE フリーのアーキテクチャを採る。
新規性: 統合マルチモーダルの構成から、視覚エンコーダと VAE という二つの外付け部品を同時に外した点が中核である。統合モデルは通常、理解側に視覚エンコーダ、生成側に VAE を置き、それぞれの表現を言語モデルへ接続する形で作られる——だがこの構成では視覚表現が二系統に分かれ、理解と生成が同じ空間を共有しない。空間的に整合した patch 再構成で視覚インタフェースを鍛える設計は、単一の表現で両者を担わせるためのものである。
手法: エンコーダフリー・VAE フリーの 8B-MoT アーキテクチャを、空間的に整合したパッチ再構成で視覚インタフェースを強化しつつ、設計された学習データでスケールさせる。
SpatialBlock: Enhancing Spatial Intelligence in LVLMs via Synthetic Block-Stacking Problem
著者: Soohyun Ryu, Sohee Kim, Eunho Yang
大規模視覚言語モデル（LVLM）は多様な視覚タスクで高い性能を示す一方、2D 画像に写るシーンの 3D 構造を再構成して推論する能力——空間知能——は限定的なままである（124 upvotes）。SpatialBlock は、合成されたブロック積み問題を通じてこの能力を強化する。
新規性: 空間知能の訓練源を、実写データの収集ではなく構造が既知の合成課題に置いた点が中核である。空間理解の改善は、深度やレイアウトの注釈付きデータを増やす方向で試みられてきた——だが実写に対する 3D 注釈は取得コストが高く、しかも「どの関係が解けていないか」を制御して増やすことができない。ブロックの積み上げという構成が完全に既知の問題を合成する設計は、遮蔽・支持関係・相対位置といった要素を意図的に組み合わせられるようにするものである。
手法: 合成的なブロック積み問題を構築し、それを通じて LVLM に 2D 画像から 3D 構造を読み取る空間推論能力を学習させる。
EvoSafeHarness: Evolving Model- and Domain-Specific Harnesses for Securing Agents
著者: Nanxi Li, Yingzi Ma, Yulong Cao et al.
LLM エージェントは言語を現実世界の作用へ変換しつつあり、間接プロンプトインジェクションと直接的な有害要求の両方に対する安全性が必要になっている（59 upvotes）。システムレベルの安全ハーネスはモデル自身の防御を超えた強制層を与えるが、既存のハーネスは通常、特定の構成を前提に設計されている。
新規性: 防御の実体を、固定的なガードレールから対象に応じて進化する成果物へ移した点が中核である。エージェント防御はモデル側の学習か、汎用的な入出力フィルタとして実装されるのが一般的である——だが強制すべき境界はモデルの性質とドメインの作用範囲によって変わり、汎用ハーネスは片方で過剰、もう片方で不足に振れる。モデル・ドメインごとにハーネスを自動生成し進化させる構成は、防御を対象に合わせて作り込む作業自体を自動化するものである。
手法: モデル固有・ドメイン固有の安全ハーネスを進化的に生成し、間接プロンプトインジェクションと直接的な有害要求の双方に対する強制層を構築する。
T1: Terminal Agent Reinforcement Learning for Long-Horizon Tasks
著者: Junyao Yang, Yucheng Shi, Zhongzhi Li et al.
エージェントの用途はコーディングや科学的発見のような長期ホライズンのタスクへ移りつつあり、その中でもターミナル操作は特に重要な位置を占める（56 upvotes）。T1 は総パラメータ 122B の Mixture-of-Experts モデルで、クラウドサンドボックス上の実シェルを 300 回以上のツール呼び出しにわたって操作するよう強化学習される。
新規性: 学習環境を模擬されたツール応答ではなく、実際に副作用を持つシェルに据えた点が中核である。長期タスクのエージェント学習は、応答が再現可能な模擬環境の上で行われることが多い——だが実シェルでは一つのコマンドがファイルシステムや状態を不可逆に変え、後続の数百ステップがその結果の上に積み上がる。クラウドサンドボックスで実シェルを回しながら 300 手超の軌跡で学習する構成は、この不可逆性を含んだ長期の信用割当を学習の内側に入れるものである。
手法: 総 122B の MoE モデルを、クラウドサンドボックス内の実シェルに対する 300 回以上のツール呼び出しを伴う長期ホライズン軌跡上で強化学習する。
An Open Recipe for IMO Gold: Training Nemotron for Olympiad Mathematics
著者: Ivan Moshkov, Stephen Ge, George Armstrong et al.
本稿は、難度の高いオリンピアド数学の自然言語による証明生成に対して、ポストトレーニングと推論時設計がどう効くかを検証する（36 upvotes）。Nemotron 3 Ultra を出発点に、教師ありファインチューニングと強化学習で二つの専門チェックポイントを訓練し、チェックポイントの選択や検証の設計を評価する。
新規性: 到達点を誇示するのではなく、そこへ至る手順を公開されたレシピとして提示した点が中核である。オリンピアド水準の数学性能は、到達の報告が先に立ち、学習と推論のどの選択が寄与したのかが外から追えないことが多い——だが自然言語の証明生成では、採点が正誤の一点ではなく論証の妥当性にかかるため、検証の組み方が結果を大きく左右する。SFT と RL のチェックポイント選択と推論時設計を並べて評価する構成は、その寄与を分解可能にするものである。
手法: Nemotron 3 Ultra に対して SFT と強化学習で二つの専門チェックポイントを作り、チェックポイント選択・検証手続き・推論時設計の影響を自然言語証明生成の観点から評価する。
HyQuant: Hybrid-Precision Quantization for LLM Attention
著者: Jiatong Ding, Bingxin Xing, Yu Zhang et al.
量子化は LLM の学習・推論のコスト削減のために広く採用されているが、Attention モジュールを極低ビットで量子化すると誤差が大きくなり性能が劣化する（30 upvotes）。既存手法は主に平滑化（smoothing）系の技術に依存してきた。
新規性: Attention の量子化誤差を、分布を均す前処理ではなく精度の配分問題として扱った点が中核である。低ビット量子化の常套手段は、外れ値を平滑化して量子化しやすい分布に整えることである——だが Attention では極端な値そのものが情報を担っている部分があり、均してしまえば誤差は下がっても表現が失われる。混合精度で部位ごとにビット幅を振り分ける構成は、平滑化に頼らずに誤差の大きい箇所だけ精度を残すものである。
手法: Attention モジュールに対し、部位ごとに異なるビット幅を割り当てる混合精度量子化を適用し、極低ビット領域での誤差増大を抑える。
Negative Self-Distillation: Learning to Reason by Avoiding Flaws
著者: Rongcan Pei, Zhepei Wei, Shuyao Xu et al.
On-Policy Self-Distillation（OPSD）は、正解解答のような特権情報を利用してモデル自身を教師に据える自己改善のパラダイムとして広く使われている（29 upvotes）。しかし近年の知見は、OPSD がかえって性能を大きく劣化させうることを示している。
新規性: 学習信号の向きを、良い推論の模倣から欠陥のある推論の回避へ反転させた点が中核である。自己蒸留は、特権情報付きの自分の出力を正例として真似させる形で組まれる——だが正解を見た上での軌跡は、正解を見ていない推論過程としては不自然な飛躍を含みうる。欠陥を避けるという負の方向で学習する構成は、模倣すべきでない軌跡の側から制約をかけるものである。
手法: 特権情報に依存した正例の模倣ではなく、欠陥のある推論を避ける負の自己蒸留として学習を組み、OPSD の性能劣化を抑える。
PARSER: Read in Parallel, Reason in Depth for Long-Context LLM Agents
著者: Kun Li, Zexuan Qiu, Tianhua Zhang et al.
逐次的な記憶エージェントは、コンパクトな記憶状態を保ちながら長文書のチャンクを順に読むことで長文脈を処理する——だがこの方式は文書の走査と推論の深さを結び付けてしまう（23 upvotes）。結果として証拠の位置に対する感度が生まれ、推論レイテンシは文書長に線形で比例する。
新規性: 読解の進行と推論の深化を別々の軸として分離した点が中核である。長文脈の記憶エージェントは、読み進めることがそのまま考え進めることを意味する構造で組まれている——だがそのとき、重要な証拠が末尾にあるか冒頭にあるかで結果が変わり、しかも読み終えるまでの時間が長さに比例して伸びる。並列に読んで深さ方向に別途推論する構成は、この二つの依存を同時に切るものである。
手法: 長文書のチャンクを並列に読解し、走査と切り離した形で推論の深さを確保することで、証拠位置への感度と文書長に線形なレイテンシを解消する。
分野別の動向
研究の自動化とその監査
今日もっとも票を集めたのは、研究を自動化するエージェントそのものを鍛える側の話だった。Scaling Automatic Research Agents via World Models は、実行結果から学ぶループを世界モデルで支えることでポストトレーニングをスケールさせる。同じ領域の周辺では、自動化された結果をどう信じるかという問いが並走している。Scores Alone Do Not Prove Discovery は Discovery Certification Protocol として、研究エージェントの主張を実行可能な再現・フィードバックテストへ変換し、封印された評価上での有用な改善をゲート 1 で検証する枠組みを示す。IdeaAMBIG は研究アイデアの「実装可能性」を測り、新規性も整合性もあるアイデアが忠実な実装には不十分な仕様しか持たない状況をベンチマーク化する。ActReview は事前投稿の自己レビューを、弱点の指摘から具体的な改訂指示へ押し上げるためにリバッタルを教師データとして使う。研究を回す速度と、回った結果を確かめる速度の両方が同時に設計対象になっている。
言語モデルの土台の作り替え
NCP-ArchPreview は 285 upvotes を集め、次トークン予測の隣に複数トークンにまたがる離散概念の予測を置くことで潜在空間言語モデルへ向かう。学習信号そのものを組み替える試みは推論側にも見える。Negative Self-Distillation は自己蒸留の向きを反転させ、良い軌跡の模倣ではなく欠陥の回避として学習を組む。An Open Recipe for IMO Gold は Nemotron 3 Ultra の SFT と RL、そして推論時設計の選択を公開されたレシピとして並べ、オリンピアド数学の自然言語証明という採点が難しい領域で何が効いたかを分解可能にする。T1 は 122B の MoE を実シェル上の 300 手超の軌跡で強化学習し、長期ホライズンの信用割当を模擬ではなく副作用のある環境で扱う。
マルチモーダルと世界モデル
SenseNova-U1.5（231 upvotes）はエンコーダフリー・VAE フリーの 8B-MoT で理解・推論・生成を単一表現に統合し、SpatialBlock（124 upvotes）は合成ブロック積み問題を通じて LVLM の 3D 空間推論を鍛える。世界モデルを実際にシミュレータとして使う側の論文も複数あり、SyncWorld は低レベルのロボット行動に対する細かな制御性を視覚的キャリブレーションで確保してゼロショットのシミュレータとして使えるようにする。Recursive Code World Models は 1 枚の参照画像から複雑な 3D 世界を再帰的なシーンプログラムとして再構成し、World in World は自己回帰的な動画世界モデルにおいて、記録された出来事と同期を保ったまま新しい視点から探索する制御の問題を扱う。Memory as Plans が示した非マルコフ的な操作タスクの記憶と合わせ、行動の中で使える世界表現に焦点が寄っている。評価側では TempCloze が動画クローズ形式で言語的近道を排した視覚的時間推論を測り、DF26 は完全合成の一人語り動画を対象に「もう本物と偽物の区別がつかない」という検出ベンチマークを提示する。
効率化
HyQuant は Attention の低ビット量子化を平滑化ではなく混合精度の配分問題として扱い、PARSER は長文脈エージェントの走査と推論深度を切り離して文書長に線形なレイテンシを外す。X-AuT が音声エンコーダの深さを段階的に削る方向を示していたのと同様、Generative Late-Interaction Embeddings は視覚文書検索の late-interaction 検索がページあたり約 1,000 ベクトルという保存コストを払っている点に踏み込み、厳しい保存予算下で既存の部分保持・局所平均が急激に劣化する問題を扱う。Why Is Video Still So Expensive? は動画・音声視覚 LLM の推論効率化機構を survey として整理する。コスト構造の異なる部位——注意計算、系列長、エンコーダ深さ、索引の保存量——がそれぞれ別の論文で詰められている。
安全性とエージェントの逸脱
EvoSafeHarness（59 upvotes）は安全ハーネスをモデル・ドメインごとに進化させる自動生成の対象とし、間接プロンプトインジェクションと直接的な有害要求の両方をシステムレベルで塞ぐ。SchemeArena は視点を内側に向け、エージェントが密かに不整合な目標を追う「scheming」が、道具的目標・環境が与える手段・監視条件・結果の認識といった要因の相互作用からどう生じるかを因子分解して stress test する。防御の実装と、逸脱がどの条件で現れるかの解明が同じ日に並んでいる。
形式化と専門ドメイン
Beyond Solver Verdicts は、数学ソルバが形式化の忠実性——厳密な参照等価性が保たれているか——には原理的に盲目であることを Verdict-Preserving-Unfaithfulness として定式化し、生成的報酬モデルで補う。StochBench は形式定理証明のベンチマークが競技数学の小さな集合に偏っている点に対し、Lean 4 で大学院レベルの確率過程 450 問を用意する。専門ドメインでは UniH^3 が医用画像復元の All-in-One モデルで階層的な同質性と異質性を統合し、CARDEA は侵襲的冠動脈造影の解釈に空間的証拠へ接地した監査可能な推論を持ち込む。DianShi-RxnDB は特許のテキスト・画像・反応スキームに散在する有機反応データを完全自動パイプラインで構造化し、研究者と AI エージェントの双方が使えるプラットフォームとして公開する。
多言語とデータ
Building Multilingual Bridges は、推論モデルがプロンプトの言語に関わらず英語で考えてしまう英語中心性を問題に据え、データ混合を汎化の柱として扱う。Think Before You Link は多言語・マルチモーダルのエンティティリンキングで、希少性をページビューのような人気指標ではなく知識グラフの構造的指標で捉え直す。From Reweighting to Rewriting は訓練データ帰属（TDA）の介入価値が「どの例を選ぶか」と「どう変えるか」の両方に依存することを示し、影響関数が想定する微小な重み付け変更から書き換えへ踏み出す。