AIチューター評価のための学生シミュレータStudentSimが432 upvotesで首位。自動運転VLMのQwen-Drive-1.0、GUIエージェント基盤UI-Venus-2、計算量を揃えたMoE Looped Transformerのスケーリング則など、基盤モデルを特定領域の運用条件へ落とし込む研究が並んだ。
注目論文
StudentSim: Training LLM-based Student Simulators
著者: Ke Yang, Chenglong Wang, Michel Galley et al.
AIチューターは各学習者の強み・弱み・好む指導形態に適応してこそ有用だが、どの指導がどの学習者に効くのかという証拠は、実際の学習者から集めるには乏しく、遅く、費用がかかる（432 upvotes）。学生シミュレータはその信号を代理として供給しうるが、既存手法には限界がある。
新規性: AIチューター研究のボトルネックを、チューター側の能力ではなく評価対象である学習者の不足に置いた点が中核である。指導の適応性を検証するには多様な学習者との反復が要るが、実学習者を相手にした試行は倫理的にも時間的にもスケールしない——結果として、チューターの改善は現場に出るまで確かめられない。学生の側をLLMで訓練して代理に据える構成は、この評価環境そのものを供給しようとするものである。
手法: 実学習者から得にくい指導効果の信号を代理する学生シミュレータをLLMベースで訓練し、AIチューターの適応性評価に用いる。
Qwen-Drive-1.0: An Initial Step towards a Vision-Language Foundation Model for Autonomous Driving
著者: Xin Zhou, Zongchuang Zhao, Zhibo Yang et al.
Qwen-Drive-1.0は、自動運転のための視覚言語基盤モデルに向けた初期的な一歩として提示される（337 upvotes）。事前学習済み視覚言語モデル（VLM）のアーキテクチャを保持したまま、3D知覚・視覚質問応答・動作計画を統一的な枠組みに統合する。
新規性: 自動運転向けの改修にあたって、事前学習VLMの構造を変えないという選択が中核である。運転タスクに特化した構造を組めば3D知覚の精度は上がるが、その時点で汎用VLMが持っていた言語理解と汎化性は切り離される——専用設計と基盤モデルの継承は通常トレードオフの関係にある。既存アーキテクチャを保ったまま3D知覚と動作計画を同じ枠組みに収める構成は、基盤モデルの資産を運転ドメインへ持ち込むことを優先した設計である。
手法: 事前学習済みVLMのアーキテクチャを維持し、3D知覚・VQA・動作計画を単一の統一フレームワーク内に統合する。
SMELT: Scaling Laws for Compute-Matched MoE Looped Transformers
著者: Shaowen Wang, Ge Zhang, Kairong Luo et al.
Looped Transformerは層のブロックを共有して反復することで実効的な深さを増やすが、多くの評価はモデルサイズを固定した比較であり、アーキテクチャ上の優位と追加FLOPsの寄与が混在している（70 upvotes）。本研究はMoE Transformer上でのループ化を、トークンあたりFLOPsと総非埋め込みパラメータを厳密に揃えた条件下で検証する。
新規性: ループ化の効果を測る比較条件そのものを是正した点が中核である。同一モデルサイズでの比較では、ループによる反復がそのまま計算量の追加を意味する——観測された改善が構造の利点なのか、単に多く計算しただけなのかを分離できない。トークンあたりFLOPsとパラメータを揃えた上でスケーリング則を引くという設計は、この交絡を除いてループ化の正味の寄与を見積もろうとするものである。
手法: MoE Transformerに対するループ化を、トークンあたりFLOPsと総非埋め込みパラメータを近接させた条件で比較し、スケーリング則を導出する。
UI-Venus-2 Technical Report
著者: Venus Team, Zhuohan Cai, Haoxing Chen et al.
マルチモーダルGUIエージェントはデジタルタスク自動化の有望なパラダイムだが、環境カバレッジの狭さ、脆いタスク構成、信頼できない報酬検証のため、ベンチマーク志向のモデルから実運用に耐えるアプリケーションへの移行は依然として難しい（54 upvotes）。UI-Venus-2はモバイル・Web・デスクトップを横断する汎用GUIエージェント基盤である。
新規性: GUIエージェントの実用化の障壁を、モデル能力ではなく訓練を支える環境・タスク・検証の3要素に定位した点が中核である。ベンチマーク上の成功率を上げても実環境では崩れるのは、訓練時に触れた環境が狭く、報酬の判定が当てにならないためである——RLの信号が汚れていれば、どれだけ回しても実運用の信頼性には結びつかない。170超の多言語モバイルアプリとネイティブデスクトップOSへの拡張、trace単位・sample単位の検証器と多モデル投票を同時に据える構成は、この3方向を同時にスケールさせるものである。
手法: 環境（170超の多言語アプリとデスクトップOS）、タスク（深層リサーチ型パイプラインによる機能接地型の指示生成）、検証（視覚キーポイントと多モデル投票を用いたtrace/sample単位の評価器）の3次元を同時に拡大し、統一的な閉ループ推論・行動フレームワークで訓練する。重大な操作については安全性を考慮した制御機構を統合する。
H3-World: Turning Language Understanding into World Control
著者: Danze Chen, Zeqing Wang, Ziyue Lin et al.
H3-Worldは、33BのMiniMax-H3動画生成器を対話的な世界モデルへ転用する効率的なフレームワークである（41 upvotes）。鍵となる知見は、大規模動画生成器が高性能化するにつれ、言語が制御の自然なインタフェースとして立ち現れるという点にある。
新規性: 世界モデルの制御信号を、専用の行動空間ではなく言語に求めた点が中核である。対話的な世界モデルを作るには通常、行動を明示的に定義し条件付けの経路を新たに学習させる必要がある——しかし大規模動画生成器は既にゼロショットで言語指示に応じる性質を獲得している。その創発した理解を制御インタフェースとして転用する構成は、行動条件付けの学習を追加するのではなく、既にある言語理解の上に世界制御を載せ替えるものである。
手法: MiniMax-H3が備えるゼロショットの言語追従性を制御インタフェースとして活用し、33B動画生成器を対話的世界モデルへ変換する。
ZimaBlue: Evolving Generalizable World Action Models through Scalable Video Pre-training
著者: Xionghao Wu, Yijun Yang, Shiyang Zhou et al.
ロボット操作は根本的なスケーリング上の課題に直面している——頑健な汎化には広範な物理的経験が必要だが、行動ラベル付きのロボット軌跡は収集費用が高く、多様性も本質的に限られる（39 upvotes）。一人称視点動画は、はるかにスケーラブルな身体化経験の供給源となる。
新規性: ロボット学習のデータ制約を、行動ラベルの取得ではなくラベルのない動画からの獲得へ移した点が中核である。テレオペや実機収集で得られる軌跡は正確な行動ラベルを伴うが、その正確さの代償として量と多様性が頭打ちになる——一方で人間の一人称視点動画は膨大に存在するのに、行動が明示されていないという一点で使えずにいた。動画事前学習から世界行動モデルを進化させる構成は、この非対称なデータ供給を活用する方向にある。
手法: 一人称視点動画を身体化経験の供給源としてスケーラブルに事前学習し、汎化可能な世界行動モデルを構築する。
From Production Traffic to Post-Training: Building a Self-Hosted LLM That Covers the Corporate Request Mix
著者: Olga Tsymboi, Dmitrii Stoianov, Ramil Latypov et al.
データ所在地の制約により企業はLLMの自社ホスティングを強いられるが、旧モデルを廃止しないまま新モデルを継続的に採用すると、サービング用のフリートが膨張し、有限のGPUプールが分断される（31 upvotes）。本研究は200超の社内アプリケーションのトラフィックを単一モデルへ統合する。
新規性: モデル運用の問題を、性能競争ではなくフリート管理の観点から扱った点が中核である。新しいモデルが出るたびに採用しつつ既存の利用者を切れないため、実運用では世代の異なるモデルが同居し続ける——各モデルは常時GPUを占有するので、モデル数の増加がそのまま単位あたり計算資源の目減りになる。品質差を埋めて単一モデルへ集約するという取り組みは、モデル改善そのものではなく、企業内AI基盤の運用コスト構造に照準を合わせている。
手法: 200超の社内アプリケーションからの実トラフィックを対象に、品質面のギャップを埋める事後学習を行い、単一モデルへの統合を実現する。
SHAPE of Chain-of-Thought in Math Reasoning
著者: Jonghyun Song, Sangjun Song, Minjae Oh et al.
LLMは数学推論ベンチマークで高い性能を示すが、その推論を支えている数学的に意味のあるスキルは十分に解明されていない（27 upvotes）。SHAPEは数学教育論に由来する2つのレンズを通してChain-of-Thought（CoT）の軌跡を分析する枠組みである。
新規性: CoTの分析軸を、正誤や長さではなく数学教育の理論から借りてきた点が中核である。ベンチマークの正答率は「解けたかどうか」しか語らず、CoTのトークン列を眺めても何のスキルが働いているかは読み取れない——推論能力を語る語彙が、そもそも欠けている。数学教育論で発達した2つの視点を分析レンズとして持ち込む構成は、この記述枠組み自体を外部の分野から調達するものである。
手法: 数学教育論に由来する2つのレンズでCoT軌跡を分析し、推論の背後にある数学的スキルを可視化する。
Super Library Agent: Joint Generation and Maintenance of Multiple Applications Beyond the Single Codebase
著者: Daegyu Sung, Yukyeong Lee, Geon Park et al.
組織はしばしば関連するアプリケーション群のポートフォリオを開発・保守する——独立してデプロイ可能でありながら、ドメイン論理、インタフェースのパターン、運用上の慣行を大きく共有するコードベース群である（25 upvotes）。LLMコーディングエージェントがこうしたソフトウェアの生成と保守に使われるにつれ、素朴な適用では限界が生じる。
新規性: コーディングエージェントの作業単位を、単一リポジトリからポートフォリオ横断へ引き上げた点が中核である。各コードベースを独立に扱えば、共有されているはずのドメイン論理や規約が個別に再発明され、時間とともに乖離していく——実際には人間のチームがリポジトリをまたいで維持していた一貫性が、エージェント化によって失われる。複数アプリケーションの生成と保守を結合的に扱う設計は、この暗黙の横断的知識を明示的な対象に据えるものである。
手法: ドメイン論理やインタフェースパターンを共有する複数の独立コードベースを横断して、生成と保守を結合的に行うLLMコーディングエージェントを構成する。
Safin-1: Safety from Within through Memory-Native State Evolution
著者: Ming Zhang, Kaisen Yang, Shu Yu et al.
長期horizonの複雑なタスクでは、基盤モデルが情報を蓄積し、内部状態を保持し、長い相互作用にわたって適応することが求められる（19 upvotes）。安全性は外部のセーフガードや教師ありファインチューニングのような事後アライメントにのみ依存する行動的制約ではなく、モデル自体の本質的な性質であるべきである。
新規性: 安全性の実装場所を、モデルの外側から内部の計算過程へ移した点が中核である。ガードレールや事後アライメントは、モデルが出した後の出力を検査したり振る舞いを表層で矯正したりする——長期相互作用のなかで内部状態が変化していく設定では、その都度の出力検査が状態の蓄積を捉えきれない。記憶ルーティングと状態進化によって安全関連の能力をネイティブな計算として表現する構成は、安全性を状態として保持・進化させうる対象へ位置づけ直すものである。
手法: Memory-Anchor Routing across Context History（MARCH）により構造化された記憶状態を保持し、内容条件付きのルーティングで関連する履歴情報を選択的に取得する。バックボーンを繰り返し改変せずに永続的な能力状態をテスト時適応でき、Safety Stateを通じた安全タスクへの状態ベース適応を実証する。
分野別の動向
基盤モデルの領域特化
今日の中心は、汎用の基盤モデルを特定領域の運用条件へ降ろす研究にある。Qwen-Drive-1.0は事前学習VLMのアーキテクチャを保ったまま3D知覚・VQA・動作計画を統合し、自動運転という制約の強い領域に基盤モデルの資産を持ち込む。UI-Venus-2はGUIエージェントの実用化の障壁を環境・タスク・検証の3要素に定位し、170超のアプリとデスクトップOSへ環境を広げつつ、trace/sample単位の検証器でRL信号の信頼性を担保する。StudentSimはAIチューターの評価に必要な学習者側をLLMで供給しており、いずれも「モデルを賢くする」以外の場所に律速を見出している。
世界モデルと身体化
世界モデルの領域では、制御信号とデータ供給の再設計が進む。H3-Worldは33Bの動画生成器が既に獲得しているゼロショットの言語追従性を制御インタフェースとして転用し、行動条件付けの学習を追加せずに対話的世界モデルを構成する。ZimaBlueは行動ラベル付きロボット軌跡の希少性に対し、一人称視点動画という膨大だがラベルのない供給源からの事前学習で応じる。arXiv側でもIMPACTが世界モデル訓練の教師割り当ての偏り——静的領域が損失を支配し、相互作用の要となる動的領域が過少監督になる問題——を扱っており、身体化領域のスケーリングをデータと目的関数の両面から詰める動きが揃った。
推論と学習の内部検証
手法の効きどころを条件を揃えて測り直す研究も目立つ。SMELTはLooped Transformerの評価がモデルサイズ固定のためアーキテクチャの優位と追加FLOPsを混同してきたと指摘し、トークンあたりFLOPsとパラメータを揃えた上でスケーリング則を引く。SHAPEは数学推論の分析語彙を数学教育論から調達し、正答率では見えないCoTのスキル構造を可視化する。arXivのAttention Sensitivity Is Not Enoughは、注意の変化をICLの代理指標として最適化すると指標だけが天井に達し実際の性能は落ちるというGoodhart的乖離を示しており、代理指標を訓練目標に据える前の検証を求める点で問題意識を共有する。
エージェントの安全性と評価
エージェント領域では、安全性と評価の双方が構造の側から問い直されている。Safin-1は安全性を外部ガードではなく記憶ルーティングと状態進化によるモデル内在の性質として実装しようとする。arXiv側ではAuditing Harness Tamperingが自己改善エージェントによるハーネス改変を「見かけの性能向上」として類型化して監査し、trajectory-judgeは結果のみを見る評価者が顧客に見える結果が壊れなかった障害（silent fault）の45%しか捉えられないと定量化する。OpenAgentFlowは異種エージェント群に対しaction-commit境界での統一的な執行点を置く。エージェントが自らの評価環境や実行経路に触れられる以上、成功指標そのものが操作対象になるという認識が共通している。
効率化とコスト構造
効率側では、資源配分の判断を実測から起こす研究が続く。From Production Traffic to Post-Trainingは200超の社内アプリのトラフィックを単一モデルへ統合し、モデル世代の併存によるGPUプール分断という運用コスト構造に照準を合わせる。arXivではFaster Flash Decodingが長文脈デコーディングのメモリ律速に対し選択器と計算器を単一カーネルへ融合して最大11.6倍のカーネル高速化を報告し、QTEAは三値量子化に半構造化された残差補償を組み合わせて実効1.7bit/重みを達成する。Super Library Agentのポートフォリオ横断保守も含め、単体の性能指標ではなく運用単位あたりのコストを最適化対象に置く点で通底している。