Ascend SuperPODでDeepSeek-V4級MoEを全パラメータ事後学習するシステム論文(45)が首位。非同期RLの陳腐化吸収や探索崩壊の原因特定などRL最適化の地力を固める研究が厚く、世界モデルによるGUIエージェント安全化やルーブリック駆動の文書集合選択など運用寄りの提案も並んだ。
注目論文
SLAI T-Rex: Full-Parameter Post-training of the DeepSeek-V4 Family on Ascend SuperPOD
著者: Dongfang Li, Xiaodong Luo, Ruoyu Sun et al.
兆パラメータ規模のMoEモデルを全パラメータで事後学習する際に生じる、深刻なメモリ圧迫・重複しない通信オーバーヘッド・非効率なカーネル実行といったシステムレベルの課題に取り組む(45 upvotes)。
新規性: DeepSeek-V4系列の兆パラメータ級MoEの全パラメータ事後学習を、Ascend SuperPOD上の大規模分散環境で実現するためのシステム最適化スタックを提示した点が貢献である。
手法: メモリ圧迫の緩和、通信と計算のオーバーラップ、カーネル実行の効率化を統合し、大規模分散学習における全パラメータ事後学習を成立させる。
Stale but Stable: Staleness-Adaptive Trust Regions for Stabilizing Asynchronous Reinforcement Learning
著者: Junyao Yang, Yucheng Shi, Zongxia Li et al.
非同期強化学習はロールアウト生成と最適化を分離してスループットを高めるが、ポリシー遅延・エンジン遅延・MoEルーティングによって陳腐化(staleness)が不可避に生じる。信頼領域の観点からはこの不整合が学習の致命的な問題となる(31 upvotes)。
新規性: 陳腐化の度合いに適応する信頼領域(staleness-adaptive trust region)を導入し、非同期RLの学習・推論間の不整合を吸収して安定化する枠組みを示した点が新しい。
手法: 陳腐化の程度に応じて信頼領域の大きさを動的に調整し、訓練と推論のポリシー乖離を抑えながら非同期RLのスループットと安定性を両立させる。
Self Gradient Forcing: Native Long Video Extrapolation
著者: Junhao Zhuang, Shiyi Zhang, Yuxuan Bian et al.
近年の自己回帰的動画拡散手法はSelf Forcingを基盤とし、正解動画ではなく自身のロールアウト履歴を用いて学習することで露出バイアスを低減する。しかし過去のKVキャッシュは将来フレームからの参照にとどまり、十分に活用されていない(29 upvotes)。
新規性: 自己のロールアウト履歴とKVキャッシュを活用し、追加の長尺データなしにネイティブな長尺動画の外挿(extrapolation)を可能にした点が貢献である。
手法: Self Forcingを拡張し、履歴のKVキャッシュへ勾配を通す仕組みにより、長期にわたる自己回帰生成での品質崩壊を抑えて長尺動画を生成する。
SeerGuard: A Safety Framework for Mobile GUI Agents via World Model Prediction
著者: Xue Yu, Bo Yuan, Pengshuai Yang et al.
モバイルGUIエージェントは複雑なタスクの自動化で高い能力を示す一方、単一の誤操作が不可逆な結果を招く重大な安全リスクを抱える。既存の安全機構は主に事後的(reactive)で、危険を先読みできない(24 upvotes)。
新規性: 世界モデルによる予測を用いて、不可逆な誤操作を実行前に先読みする先読み型(proactive)の安全枠組みを提示した点が新しい。
手法: GUIエージェントの行動が引き起こす将来状態を世界モデルで予測し、危険な操作を実行前に検知・抑止することで不可逆な被害を防ぐ。
Beyond Relevance-Centric Retrieval: Rubric-Oriented Document Set Selection and Ranking
著者: Kailin Jiang, Lei Liu, Jian Xi et al.
大規模言語モデルやAIエージェントが検索結果の主要な消費者となるにつれ、文書集合の品質が下流生成の上限を決める。しかし既存の評価はnDCGで文書を独立に採点するにとどまり、冗長性・矛盾・補完性といった文書間の相互作用を無視している(24 upvotes)。
新規性: 「評価→診断→最適化」を一体化した枠組みと、3レベル9次元・約28Kのルーブリックからなる評価ベンチマークSetwiseEvalKitを構築し、訓練不要の文書集合選択手法Rubric4Setwiseを提示した点が貢献である。
手法: ルーブリックベースの評価基準を文書集合の選択シグナルへ変換し、より少ない文書・検索ラウンドで最良の下流生成性能を達成する。12個のリランカー評価では最良でも45%以下のカバレッジにとどまり、文書間協調の弱さを明らかにした。
SciForma: Structure-Faithful Generation of Scientific Diagrams
著者: Yuxuan Luo, Peng Zhang, Xinjie Zhang et al.
科学的手法図では構造忠実性が本質的に重要である。研究のロジックを伝えるには、構成要素・方向的関係・テキスト注釈を忠実に描画する必要があり、矢印の逆転や判読不能な数式といった単一の誤りが図全体を無効化しうる(20 upvotes)。
新規性: 矢印の向きや数式・注釈まで構造忠実に科学的手法図を生成することに焦点を当て、構造の整合性を保った図生成を実現した点が新しい。
手法: 構成要素と方向関係、テキスト注釈を構造的に整合させながら生成することで、研究ロジックを正確に伝える科学的ダイアグラムを構築する。
An Exam for Active Observers
著者: Jiarui Zhang, Muzi Tao, Shangshang Wang et al.
人間の視覚は閉ループであり、視線は単一のスナップショットではなく中間的な仮説によって継続的に方向づけられる。心理物理学と認知科学は、この能動的観察が幅広いタスクに不可欠だと論じてきた(18 upvotes)。
新規性: 現代のマルチモーダル大規模言語モデル(MLLM)が、仮説によって視線を誘導する能動観察の能力を持つかどうかを検証する試験(exam)を提示した点が貢献である。
手法: 能動的な観察を要求する課題群を設計し、MLLMが中間仮説に基づいて注目領域を逐次的に再配置できるかを体系的に評価する。
NexForge: Scaling Agent Capabilities through Requirement-Driven Task Synthesis for LLMs
著者: Jiarong Zhao, Zhikai Lei, Zhiheng Xi et al.
LLMの事後学習に向けた実行可能なエージェント学習データのスケーリングは、タスク生成を事前定義済みのツール・リポジトリ・スキルグラフに縛る「基盤(substrate)依存」の手法によってボトルネック化している。カバレッジ拡大には手作業の基盤エンジニアリングが必要となる(14 upvotes)。
新規性: 事前定義された基盤に縛られず、要件駆動(requirement-driven)でタスクを合成することで、実行可能なエージェント学習タスクを新規ドメインへ低コストに拡張できる点が新しい。
手法: 要件からタスクを生成する方式により、ドメインごとのbespokeなパイプラインを不要にし、実行可能なエージェント訓練データを効率的にスケールさせる。
Scaling Laws for Hypernetwork-Based Knowledge Injection in Large Language Models
著者: Nischay Dhankhar, Dos Baha, Abulhair Saparov
LLMへの事実知識の信頼できる大規模注入は未解決の課題であり、ハイパーネットワークは有望な解となりうる。従来はテスト時適応に使われてきたが、本研究では訓練時(train-time)の知識注入への利用とそのスケール依存性を探る(11 upvotes)。
新規性: ハイパーネットワークの注入能力を対象モデルの一般能力から分離することで、ハイパーネットワーク・アーキテクチャのスケーリング則を初めて厳密に定式化した点が貢献である。数千万規模のマルチホップQAデータセットMegaWikiQAを構築した。
手法: 大量の事実群から固定LoRAアダプタを生成するハイパーネットワークを訓練し、深さ・幅・対象ネットワークサイズに沿って損失・推論精度・OOD汎化がどう変化するかを解析。全アーキテクチャ軸で予測可能なべき乗則スケーリングと、スケール増大に伴う信頼できるOOD汎化を示した。
Beyond Euclidean Clipping: Overcoming Exploration Collapse in LLM RL via Riemannian Isometric Policy Optimization
著者: Zhicheng Cai, Xinyuan Guo, Hanlin Wu et al.
強化学習はLLMの推論能力向上の支配的パラダイムとなったが、PPO-Clipを用いるRLアルゴリズムは本質的に探索崩壊(exploration collapse)に制約される。後続研究の多くはヒューリスティックにとどまり、PPO-Clipの失敗の本質的原因を特定できていない(9 upvotes)。
新規性: PPO-Clipによる探索崩壊の本質的な原因を特定し、それをリーマン等長ポリシー最適化(Riemannian Isometric Policy Optimization)によって克服する枠組みを提示した点が新しい。
手法: ユークリッド的なクリッピングを超え、リーマン幾何に基づく等長的なポリシー更新により、探索の多様性を維持したままLLMの推論RLを安定化させる。
分野別の動向
大規模学習のシステム最適化と全パラメータ事後学習
本日の最上位は、モデル手法よりも学習インフラそのものを主題とする研究だった。SLAI T-Rex(45 upvotes)はDeepSeek-V4系列の兆パラメータ級MoEを、Ascend SuperPOD上でメモリ圧迫・通信オーバーヘッド・カーネル効率を統合的に解決して全パラメータ事後学習する。フロンティア級モデルの学習が、アルゴリズムだけでなく分散システム工学の勝負になりつつある現状を映している。
強化学習の安定化と探索崩壊の克服
RL最適化の「地力」を固める理論・手法研究が厚みを増した。Stale but Stable(31 upvotes)は非同期RLの陳腐化を陳腐化適応型の信頼領域で吸収し、Beyond Euclidean Clipping(9 upvotes)はPPO-Clipの探索崩壊の本質原因を特定してリーマン等長最適化で克服する。スループット向上と探索多様性の維持という、実運用で衝突しがちな要求を正面から扱う潮流が見える。
世界モデルと生成の実用化・安全化
生成・世界モデルは能力誇示から運用の信頼性へ軸が移りつつある。SeerGuard(24 upvotes)は世界モデル予測でモバイルGUIエージェントの不可逆な誤操作を先読みし、Self Gradient Forcing(29 upvotes)は自己ロールアウト履歴を活かして長尺動画を外挿する。SciForma(20 upvotes)が矢印や数式まで構造忠実に手法図を生成する点も含め、生成物の正確さと安全性を担保する研究が並んだ。
エージェント学習データと知識注入のスケーリング
エージェントとLLMを支えるデータ・知識の基盤研究も継続する。NexForge(14 upvotes)は事前定義ツールに縛られず要件駆動で実行可能なエージェント学習タスクを合成し、Scaling Laws for Hypernetwork(11 upvotes)はハイパーネットワークによる訓練時知識注入のスケーリング則をMegaWikiQAで初めて定式化する。文書側でもRubric4Setwise(24 upvotes)が文書集合品質を評価・最適化しており、モデル性能の上限を規定するデータ品質へ関心が集まっている。