発見と検証の非対称性を突く深層研究向け再帰的自己改善エージェントAREX(115)が首位。オンポリシー蒸留やLLM事前学習最適化など学習手法の底上げが厚く、必須フィールドが捏造を誘発する現象や対話中のユーザ意図喪失など、実運用の落とし穴を突く評価研究も並んだ。
注目論文
AREX: Towards a Recursively Self-Improving Agent for Deep Research
著者: Shuqi Lu, Chaofan Li, Kun Luo et al.
深層研究では複数の制約を同時に満たす答えを見つける必要があるが、答えの発見はコストが高い一方、候補の検証は制約ごとの扱いやすいチェックに分解できる。この「発見と検証の非対称性」に着目した研究である（115 upvotes、本日最上位）。
新規性: 発見に対して検証が安価であるという非対称性を活かし、研究エージェントを再帰的に自己改善させる枠組みを提示した点が貢献である。
手法: 候補の探索と、制約ごとに分解した検証を組み合わせることで、コストの高い発見プロセスを効率化しつつ多制約を満たす答えへ収束させる。
Generative World Renderer at the Speed of Play
著者: Guixu Lin, Zheng-Hui Huang, Siqi Yang et al.
生成型ワールドレンダラーAlayaRendererは、物理エンジンからエクスポートされた構造化world stateを受け取ってRGBフレームを合成する。テキストや制御ヒントから生成するモデルと異なり、シーン構造を保持したままレンダリングする点が特徴である（72 upvotes）。
新規性: 基盤となるworld dynamicsを改変せずシーン構造を保存しながら、プレイ速度でリアルタイムにフレームを生成できる点が新しい。
手法: 物理エンジンが出力する構造化world stateを条件とし、シーンの構造的整合を保ったままRGBフレームを合成することで、インタラクティブな速度での生成レンダリングを実現する。
K12-KGraph: A Curriculum-Aligned Knowledge Graph for Benchmarking and Training Educational LLMs
著者: Hao Liang, Qihan Lin, Zhaoyang Han et al.
LLMはK-12教育での利用が拡大しているが、既存ベンチマークは主に試験問題への解答を測るにとどまり、カリキュラム知識がどう構造化され視覚的に提示されるかの理解は測れていない。この能力を「curriculum cognition」と呼ぶ（40 upvotes）。
新規性: 前提知識の連鎖や概念分類など、カリキュラム知識の構造理解を測るカリキュラム整合型の知識グラフ・ベンチマークを構築した点が貢献である。
手法: 前提連鎖・概念タクソノミーなどを含む知識グラフを整備し、教育用LLMのベンチマークと訓練の双方に用いることで、単なる問題解答を超えた知識構造の理解能力を評価する。
Visual Contrastive Self-Distillation
著者: Yijun Liang, Yunjie Tian, Yijiang Li et al.
オンポリシー自己蒸留（OPSD）は外部教師を不要にする点で有望だが、自己教師が生徒より強い学習信号を提供するために教師・生徒間の非対称な情報を依然として必要とする（39 upvotes）。
新規性: 外部教師なしで、視覚的対照学習を通じて自己教師に強い学習信号を確保するオンポリシー自己蒸留手法を提示した点が新しい。
手法: 対照的な視覚情報を用いて教師・生徒間に必要な非対称性を作り出し、外部教師を伴わずにオンポリシー蒸留の学習信号を担保する。
Subliminal Clocks: Latent Time Modelling in Diffusion Language Models
著者: Maximo Eduardo Rulli, Thomas Vaitses Fontanari, Simone Petruzzi et al.
拡散言語モデル（DLM）は自己回帰モデルの有望な代替として登場したが、標準的な拡散手法と異なりtimestepに明示的に条件づけられていない。ではDLMはデノイズの進行を内部的に表現しているのか、という問いを扱う（38 upvotes）。
新規性: timestep非条件付きのDLMが、デノイズ進行を内部表現として保持しているかを解析的に検証した点が貢献である。
手法: DLMの内部表現を調べ、デノイズ過程の進行がどのように潜在的に符号化されているかを分析することで、明示的な時刻条件なしでも進行が表現されうることを示す。
Show, Don’t Tell: Evaluating Spatial Cognition in Generative Pixels Rather Than LLM Text
著者: Xu Wang, Kaixiang Yao, Miao Pan et al.
空間知能はエージェントが静的な意味理解から物理世界との相互作用へ移行するために不可欠である。多くの空間タスクは連続的な視覚シーンに根ざしており、位置・領域・経路はテキストより指し示し・マーキング・描画で自然に表現される（34 upvotes）。
新規性: 空間認知をLLMのテキスト出力ではなく、生成されたピクセルによって評価する枠組みを提示した点が新しい。
手法: 位置や経路を描画・マーキングとして表現させ、生成ピクセル上で空間認知能力を測ることで、テキスト記述に依らない空間知能の評価を可能にする。
PhantomFill: When the Form Demands an Answer, Language Models Invent One
著者: Rana Muhammad Usman
本番環境のLLMは散文ではなくJSONフィールドや関数引数、抽出テンプレートといった「フォーム」を埋める。本研究は、フォームそのものが幻覚を引き起こすことを示す。答えられない入力に対し、自由記述ではGPT-5.5が98%正直に「該当データなし」と答える一方、必須JSONフィールドを課すと40回中40回で答えを捏造した。
新規性: 必須フィールドが捏造を100%まで押し上げる（13モデル中10モデル）現象を体系化し、決定論的採点による新ベンチマークPhantomFillを提示した点が貢献である。
手法: 同一の質問・入力に対し回答形式のみを変えて13モデルを評価し、Coerced Fabrication Rate（強制捏造率）とEscape Utilization Rate（回避オプション活用率）の2指標で計測する。スキーマ1行の修正が対策になりうることも示す。
SOAP, Muon, and Beyond: Pushing LLM Pretraining Scales
著者: Mikail Khona, Aditya Vavre, Boxiang Wang et al.
MuonやSOAPといった高次最適化手法はAdamWより速く収束するが、計算コストと数値安定性の課題が大規模採用を妨げてきた。本研究はこれらの前処理付き勾配法を大規模LLM事前学習向けに適応・強化する。
新規性: 大バッチサイズでのSOAPの不安定性を特定し、ステップごとのQR直交化などのアルゴリズム改良で損失スパイクを解消。数十億パラメータ・数兆トークン規模でSOAP/MuonがAdamWを一貫して上回ることを示した点が貢献である。
手法: update-RMSマッチングで最適化手法間の公平な学習率転移を確保しつつSOAP・Muon・AdamWを統一的に比較。Megatron-LM互換の層ごと分散最適化を導入し、100Mトークン規模のバッチでもAdamWが劣化する領域で安定性と品質を維持する。
LLMs Get Lost in Evolving User Intent
著者: Jihoon Tack, Philippe Laban, Jennifer Neville
LLMは協働エージェントとして反復的な対話を通じユーザ委任タスクを担うことが増えている。しかし真の対話は本質的に動的で、ユーザは意図を前もって明示せず、対話の中で開示・修正・再形成していく（15 upvotes）。
新規性: 反復対話の中で更新されていくユーザ意図を、LLMが見失う現象を体系的に検証した点が新しい。
手法: 意図が対話を通じて変化していく設定を構築し、LLMがその変化を追従できずにタスクを見失う様子を評価することで、動的な意図理解の弱点を明らかにする。
Multi-Turn On-Policy Distillation with Prefix Replay
著者: Baohao Liao, Hanze Dong, Christof Monz et al.
LLMエージェントが環境と複数ターンにわたり相互作用し、生徒が教師の多ターン対話履歴を模倣するエージェンティックなタスク向けのオンポリシー蒸留（OPD）を研究する。完全オンラインのOPDは、更新ごとに新しい生徒ロールアウトが必要となりコストが高い（7 upvotes）。
新規性: prefix replayを用いて多ターンのオンポリシー蒸留を低コスト化し、エージェンティックタスクでの蒸留を実用的にした点が貢献である。
手法: 対話履歴の接頭辞（prefix）を再利用するreplay機構により、毎更新での完全な生徒ロールアウトを避けつつ、多ターン相互作用履歴上での教師模倣を効率化する。
分野別の動向
自己改善エージェントと深層研究
本日の最上位は、モデルそのものより研究プロセスの構造を主題とする研究だった。AREX（115 upvotes）は「発見はコスト高だが検証は分解して安価にできる」という非対称性を突き、多制約を満たす答えへ収束する再帰的自己改善エージェントを提示する。エージェントの能力を、単発の推論力ではなく探索と検証のループ設計で押し上げる潮流が鮮明になっている。
蒸留・最適化による学習の底上げ
学習手法の「地力」を固める研究が厚みを増した。Visual Contrastive Self-Distillation（39 upvotes）は外部教師なしに強い学習信号を確保する自己蒸留を、Multi-Turn On-Policy Distillation（7 upvotes）はprefix replayで多ターン蒸留を低コスト化する。事前学習側でもSOAP, Muon, and Beyondが高次最適化を兆トークン級へ安定に拡張しており、派手さより歩留まりを変える研究が並んだ。
生成モデルとワールドモデルの実用化
生成・世界モデルは能力誇示から運用速度・構造保存へ軸が移りつつある。Generative World Renderer（72 upvotes）は物理エンジンのworld stateを保持したままプレイ速度でフレームを生成し、Subliminal Clocks（38 upvotes）は拡散言語モデルが時刻非条件でもデノイズ進行を内部表現するかを解析する。生成物の構造的整合と内部機序への関心が同時に高まっている。
評価とベンチマークの精緻化
実運用の落とし穴を突く評価研究が目立った。PhantomFillは必須JSONフィールドが捏造を10/13モデルで100%まで誘発することを定量化し、LLMs Get Lost in Evolving User Intent（15 upvotes）は対話中のユーザ意図喪失を体系化する。空間認知をピクセルで測るShow, Don’t Tell（34 upvotes）や教育知識の構造理解を測るK12-KGraph（40 upvotes）も含め、既存指標が見落とす能力・失敗を可視化する動きが強い。