兆パラメータ級MoEをAscend SuperPOD上で全パラメータ事後学習するSLAI T-Rex(56)が首位。PPO-Clipの探索崩壊を突くLLM RL改良や動画生成の効率化、コーディングエージェント評価まで、学習基盤・最適化・生成の底上げが厚く並んだ。
注目論文
SLAI T-Rex: Full-Parameter Post-training of the DeepSeek-V4 Family on Ascend SuperPOD
著者: Dongfang Li, Xiaodong Luo, Ruoyu Sun et al.
兆パラメータ規模のMoEモデルの全パラメータ事後学習を、Ascend SuperPOD上で実現するためのシステム設計を報告する。DeepSeek-V4ファミリーを対象とし、大規模分散学習が抱えるシステム課題に正面から取り組む（56 upvotes、本日最上位）。
新規性: 深刻なメモリ圧迫、非重複な通信オーバーヘッド、非効率なカーネル実行といった、兆パラメータ級MoE学習に固有のボトルネックを体系的に解消した点が貢献である。
手法: メモリ・通信・カーネルの各層にわたる最適化を組み合わせ、既存のLLM学習システムでは難しかった兆パラメータ級MoEの全パラメータ事後学習を実用的な規模で成立させる。
Self Gradient Forcing: Native Long Video Extrapolation
著者: Junhao Zhuang, Shiyi Zhang, Yuxuan Bian et al.
近年の自己回帰動画拡散はSelf Forcingを基盤とし、生徒を正解の動画文脈ではなく自身のロールアウト履歴で学習させる。これは露出バイアスを減らすが、履歴のKVキャッシュが将来フレームから十分に活かされないという課題が残る（30 upvotes）。
新規性: 自己ロールアウト履歴のKVキャッシュの使い方を改良し、追加の外部条件に頼らず長尺動画への外挿を可能にした点が新しい。
手法: 自身が生成した履歴のkey-valueキャッシュをより有効に活用する学習を導入し、露出バイアスを抑えつつネイティブに長尺の動画を外挿生成する。
Beyond Relevance-Centric Retrieval: Rubric-Oriented Document Set Selection and Ranking
著者: Kailin Jiang, Lei Liu, Jian Xi et al.
大規模言語モデルやAIエージェントが検索結果の主要な消費者となる中、文書集合の質が下流生成の上限を決める。しかし既存の評価は文書を独立に採点しnDCGで集約するにとどまり、文書間の相互作用を無視している（28 upvotes）。
新規性: 文書を独立採点する枠組みを脱し、文書間の相互作用を踏まえてルーブリック志向で文書「集合」を選択・順位付けする評価を提示した点が貢献である。
手法: 個別文書の関連度ではなくルーブリックに沿った集合単位の適合性を評価軸とし、文書同士の相補・重複を考慮した文書集合の選択とランキングを行う。
An Exam for Active Observers
著者: Jiarui Zhang, Muzi Tao, Shangshang Wang et al.
人間の視覚は閉ループであり、視線は単一のスナップショットではなく途中の仮説によって継続的に誘導される。心理物理学・認知科学はこの能動的観察が多くのタスクに不可欠だと論じてきた（24 upvotes）。
新規性: 現在のマルチモーダルLLMが、仮説で視線を誘導する能動的観察をどこまで備えているかを測る試験を提示した点が新しい。
手法: 単一視点の受動的な認識ではなく、中間仮説に応じて注視を再配分する能動観察の能力を評価する課題を設計し、MLLMの能動的観察能力を体系的に測る。
NVIDIA OO Agents (NOOA): Native Python Object-Oriented Agents
著者: Paul Furgale, Severin Klingler, James Nolan et al.
従来のエージェント開発は、プロンプトテンプレート・ツールスキーマ・コールバックコード・ワークフローグラフに分断されている。NOOAはこれを単純化し、エージェントを一つのPythonオブジェクトとして表現するモデル非依存フレームワークである（22 upvotes）。
新規性: エージェント=単一Pythonオブジェクトという抽象を採り、分散していた開発要素を統一して信頼性の高いエージェント構築を可能にした点が貢献である。
手法: エージェントの振る舞いをオブジェクトのメソッドとして定義し、プロンプト・ツール・コールバック・制御フローをPythonのオブジェクト指向構造に統合することで、モデルに依存しない再現性のあるエージェント開発を実現する。
Tencent WorkBuddy Bench: A Multi-Domain Coding-Agent Benchmark with Contamination-Resistant Task Construction
著者: Tencent WorkBuddy Bench Team, Siqi Cai, Shaopeng Chen et al.
コーディングエージェント向けの多領域評価スイートで、その構築方法・採点プロトコル・クロスモデルのリーダーボードを報告する。中核には、分布を踏まえたコーディングエージェント課題を構築・実行する統一評価フレームワークがある（20 upvotes）。
新規性: 汚染耐性のあるタスク構築手法を採り、コーディングエージェントを複数領域にわたって統一的に評価するベンチマークを整備した点が貢献である。
手法: 分布情報に基づくタスク生成と統一的な採点プロトコルを組み合わせ、データ汚染の影響を抑えつつ多領域でのコーディングエージェント性能を横断比較する。
SANA-Video 2.0: Hybrid Linear Attention with Attention Residuals for Efficient Video Generation
著者: Junsong Chen, Jincheng Yu, Yitong Li et al.
統一アーキテクチャの下で5Bと14Bのスケールに具現化したハイブリッド動画拡散Transformerである。単一GPUで最大720pの高品質動画を生成できるよう設計されている（19 upvotes）。
新規性: ハイブリッド線形注意と注意残差を組み合わせ、フルソフトマックスの動画DiTと同等の品質を保ちつつ、長系列に有利な効率性を維持した点が新しい。
手法: 線形注意に注意残差を加えるハイブリッド設計により、計算コストを抑えながらフルソフトマックス並みの生成品質を確保し、単一GPUでの720p動画生成を効率化する。
Scaling Laws for Hypernetwork-Based Knowledge Injection in Large Language Models
著者: Nischay Dhankhar, Dos Baha, Abulhair Saparov
事実知識をLLMへ信頼性高く大規模に注入することは未解決の課題である。ハイパーネットワークは大規模な知識注入の有望な手段だが、通常はテスト時適応に用いられてきた（14 upvotes）。
新規性: ハイパーネットワークをテスト時適応ではなく訓練時の知識注入に用い、その効果のスケーリング則を検証した点が貢献である。
手法: ハイパーネットワークで生成したパラメータを訓練時に注入する枠組みを構築し、モデル規模や注入量に対して知識注入の効果がどうスケールするかを体系的に調べる。
Beyond Euclidean Clipping: Overcoming Exploration Collapse in LLM RL via Riemannian Isometric Policy Optimization
著者: Zhicheng Cai, Xinyuan Guo, Hanlin Wu et al.
強化学習はLLMの推論能力を高める主要パラダイムとなったが、PPO-Clipを用いるRLは本質的に探索崩壊に悩まされる。後続研究の多くはヒューリスティックにとどまり、PPO-Clipの失敗の本質的原因を特定できていない（12 upvotes）。
新規性: PPO-Clipによる探索崩壊の本質的原因を特定し、リーマン等長方策最適化によってそれを克服する枠組みを提示した点が貢献である。
手法: ユークリッド的なクリッピングに代えて、方策更新を等長性を保つリーマン幾何の枠組みで扱うことで、探索崩壊を抑えつつLLMのRL学習を安定化させる。
Predictive Divergence Masks for LLM RL
著者: Xiangxin Zhou, Jiarui Yao, Penghui Qi et al.
LLMのための強化学習は、オフポリシー更新を安定化するために信頼領域マスクに依存するのが通例である。主流のPPO流手法は、サンプルされたトークンの重要度比を近接性と剪定の2つの基準に用いる（8 upvotes）。
新規性: サンプルトークンの重要度比への依存を見直し、予測的ダイバージェンスに基づくマスクでオフポリシー更新の信頼領域を定義する点が新しい。
手法: トークン重要度比の代わりに予測的ダイバージェンスを指標としたマスクを導入し、方策がベース方策から過度に離れたか否かを判定してオフポリシーLLM RLの更新を安定化する。
分野別の動向
大規模学習基盤と効率化
学習・推論の「土台」を押し広げるシステム研究が上位を占めた。SLAI T-Rex（56 upvotes）は兆パラメータ級MoEの全パラメータ事後学習をAscend SuperPOD上で成立させ、メモリ・通信・カーネルの各層でボトルネックを解く。生成側でもSANA-Video 2.0（19 upvotes）がハイブリッド線形注意で単一GPU・720p動画生成を効率化しており、モデル競争より歩留まりとスケーラビリティを変える研究が前に出た日である。
LLM RLと最適化
強化学習の安定性を巡る基礎研究が並んだ。Beyond Euclidean Clipping（12 upvotes）はPPO-Clipの探索崩壊の本質原因を特定しリーマン等長化で克服し、Predictive Divergence Masks（8 upvotes）はトークン重要度比への依存を見直して予測的ダイバージェンスで信頼領域を定義する。いずれもPPO流の枠組みそのものを問い直す点で方向性が重なる。
検索・知識注入
LLM/エージェントを消費者と見なした情報供給側の研究が目立った。Beyond Relevance-Centric Retrieval（28 upvotes）は文書を独立採点しnDCGで集約する既存評価を脱し、文書間相互作用を踏まえた集合単位の選択・順位付けへ踏み込む。Scaling Laws for Hypernetwork-Based Knowledge Injection（14 upvotes）はハイパーネットワークを訓練時知識注入に転用しそのスケーリング則を検証しており、知識を「入れる／探す」両面での底上げが進む。
エージェントと評価
エージェント開発の抽象化と、その厳密な評価が同時に進んだ。NOOA（22 upvotes）はエージェントを単一Pythonオブジェクトとして統一し開発の分断を解消し、Tencent WorkBuddy Bench（20 upvotes）は汚染耐性のあるタスク構築で多領域のコーディングエージェントを横断比較する。An Exam for Active Observers（24 upvotes）が能動的観察という見落とされがちな能力を測るなど、実運用に効く能力の可視化が続いている。