GRPO/Dr.GRPO/DAPOが群標準偏差という単一の数への操作だと証明する統一理論が登場。MoE/動画生成のサービング効率化、マルチモーダル評価と記憶追従性のベンチマーク、実世界志向のSeed2.0まで、基盤・評価の地固めが目立つ一日。
注目論文
GRPO, Dr. GRPO, and DAPO Are Three Operations on One Number: The Group-Standard-Deviation Identity
著者: Yong Yi Bay, Kathleen A. Yearick
推論向けRL学習で広く使われるGRPO・Dr. GRPO・DAPOの3手法は、一見別々のトリックに見えるが、実は「群標準偏差」という単一の数への3通りの操作に過ぎないことを証明する。標準偏差は、あるプロンプトに対するサンプル回答の正誤の割れ具合を測る量である。
新規性: GRPOはこの数で割り、Dr. GRPOは割り算を外し、DAPOは標準偏差が0の群を捨てる——という3手法を、単一の「ダイヤル」の設定違いとして統一的に位置づけた点が新しい。二値報酬では、この割れ具合がそのまま更新量の大きさになる（群標準偏差恒等式）。
手法: 正誤が均等に割れた群が最も学習を促し、全員一致の群は何も教えない、という帰結を導く。どの問題に最も重みを置くべきか、各問題に何回の試行が必要かも同じ結果から導かれ、大規模難易度データ（Big-Math）と制御された学習実験で裏付けている。
PerceptionRubrics: Calibrating Multimodal Evaluation to Human Perception
著者: Yana Wei, Hongbo Peng, Yanlin Lai et al.
飽和したベンチマークスコアと実世界での脆さの乖離に対処する、ルーブリックベースのマルチモーダル評価フレームワーク（33 upvotes）。全体的な意味一致から、原子的な厳密監査へと評価軸を移す。
新規性: 1,038枚の情報密な画像を、細分化された原子的ルーブリック（多数の採点項目）と対応づけ、人間の知覚に較正した評価を可能にした点が貢献である。
手法: 画像を情報密度の高いものに絞り、意味の一致を大掴みに判定するのではなく、細かな知覚要素ごとに合否を採点する原子的監査に置き換えることで、モデルの実世界での脆弱性を可視化する。
ELDR: Expert-Locality-Aware Decode Routing for PD-Disaggregated MoE Serving
著者: Sangjin Choi, Sukmin Cho, Yifan Xiong et al.
Prefill-Decode（PD）分離型のLLMサービングでは、prefill後に各リクエストがdecodeワーカーへ割り当てられる（19 upvotes）。既存のdecodeルータは負荷のみを均衡させるが、MoEモデルではこれは不十分だと指摘する。
新規性: 負荷が等しいワーカーでも、各decodeステップで読み込むエキスパートの重みが異なればレイテンシが変わる、という「エキスパート局所性」を考慮したdecodeルーティングを導入した点が新しい。
手法: 単なる負荷均衡ではなく、どのエキスパートがどのワーカーに載っているかを踏まえてリクエストを振り分けることで、MoEサービングのレイテンシを削減する。
TurboServe: Serving Streaming Video Generation Efficiently and Economically
著者: Youhe Jiang, Haoxu Wang, Haotong Bao et al.
ストリーミング動画生成は、ユーザーが長寿命のセッションと対話し、チャンク単位で動画を逐次生成する新しいサービングワークロードである（19 upvotes）。オフライン動画生成や一般的なLLMサービングと異なり、活動中・アイドル中のセッション状態を保持しなければならない。
新規性: 長時間続くセッション状態を効率的に保持しつつ、ストリーミング動画生成を経済的に提供するサービングシステムを設計した点が貢献である。
手法: セッションが活動状態とアイドル状態を行き来する特性に合わせて状態管理を最適化し、計算資源の無駄を抑えながらチャンク単位の逐次生成を支える。
MemSyco-Bench: Benchmarking Sycophancy in Agent Memory
著者: Zhishang Xiang, Zerui Chen, Yunbo Tang et al.
メモリは現代のLLMエージェントの基盤となり、単発アシスタントから長期協働者への進化を支えている（18 upvotes）。しかしメモリは常に有益とは限らず、検索されたメモリがしばしば追従性（sycophancy）という深刻な問題を誘発する。
新規性: 検索されたメモリがエージェントをユーザーへ過度に迎合させ、追従的な振る舞いを引き起こす現象を測定する初のベンチマークを提示した点が新しい。
手法: エージェントのメモリ検索が追従性を招く過程をベンチマーク化し、記憶が信頼性をどう損なうかを体系的に評価できるようにする。
Multimodal Continuous Reasoning via Asymmetric Mutual Variational Learning
著者: Shijie Li, Yilin Gao, Siyuan Yang et al.
マルチモーダル大規模言語モデル（MLLM）は、複雑な視覚推論を離散トークンへ押し込む言語空間のボトルネックに制約されやすく、知覚的なニュアンスを失いがちである（16 upvotes）。連続潜在推論はこれを避ける有望な代替である。
新規性: 非対称相互変分学習を用いて、暗黙的な推論経路を連続潜在空間で発見し、離散トークン化のボトルネックを回避する点が貢献である。
手法: 視覚推論を離散トークンに落とし込まず、連続的な潜在表現の上で推論経路を探索することで、知覚情報の損失を抑えつつ複雑な推論を実現する。
CausalMix: Data Mixture as Causal Inference for Language Model Training
著者: Zinan Tang, Yukun Zhang, Shaomian Zheng et al.
LLM学習ではデータ混合が性能を左右する（14 upvotes）。近年の手法はプロキシモデルで混合重みを最適化するが、静的なデータ分布を仮定するため、データプールが変化すると再最適化が必要になる。
新規性: 学習データの混合を因果推論の問題として定式化し、データプールの変化に頑健な混合重み最適化を実現した点が新しい。
手法: 混合重みの決定を因果推論の枠組みで捉えることで、基盤となるデータ分布が動いても再最適化を要さない、変化に強いデータ混合戦略を導く。
AutoTrainess: Teaching Language Models to Improve Language Models Autonomously
著者: Zhaojian Yu, Penghao Yin, Shuzheng Gao et al.
フロンティアの言語モデルエージェントがソフトウェア工学などの長期タスクで有能になっても、言語モデルの学習自体は依然として人手集約的なプロセスである（8 upvotes）。自律的な後訓練は単なるコーディング問題ではない。
新規性: 言語モデルが言語モデルを自律的に改善する後訓練エージェントの枠組みを提示した点が貢献である。
手法: 後訓練を単なるコード生成に還元せず、エージェントが学習プロセスそのものを担えるよう設計することで、人手に頼らないモデル改善の道を探る。
The State-Prediction Separation Hypothesis
著者: Giovanni Monea, Nathan Godey, Kianté Brantley et al.
Transformerは同一の順伝播ストリームを使って、次トークンの予測と、将来のトークン予測に役立つ状態の保持という2つの役割を同時に担っている（7 upvotes）。
新規性: この2つの役割を切り離す「状態・予測分離仮説」を定式化し、両者を解きほぐすと言語モデリング性能が向上することを示した点が新しい。
手法: 次トークン予測用の計算と状態保持用の計算を分離するTransformer変種を設計し、単一ストリームで両役割を兼ねる従来構成よりも良い言語モデリング性能が得られるかを検証する。
Seed2.0 Model Card: Towards Intelligence Frontier for Real-World Complexity
著者: Bytedance Seed
複雑な実世界タスクの解決へ一歩踏み出すモデルシリーズSeed2.0を提示する（16 upvotes）。ユーザーの真のニーズを起点に、それらと現実的で複雑なシナリオに根ざしたベンチマークを選び抽象化することで、信頼できる前向きな評価体系を構築する。
新規性: 長尾知識と複雑な指示追従という2つの根強い課題を重点的に狙い、込み入った長期タスクでの信頼性を大幅に高めた点が貢献である。
手法: ニーズ駆動で構築した評価体系を指針に、推論・視覚理解・検索能力を高め、実世界の複雑タスクを扱える能力の初期兆候を多数のユースケースで示す。
分野別の動向
強化学習の基盤理論
本日の理論的ハイライトは、GRPO・Dr. GRPO・DAPOという主要なRL手法を「群標準偏差への3操作」として統一した群標準偏差恒等式である。無害な正規化ステップに見えたものが、実は学習がどこで起き、どれだけ強く進むかを決めるダイヤルだったと示す点で、推論向けRLの理解を一段深める。DAPOのような群フィルタリングやGRPOの正規化の意味づけが、経験則から原理へと整理されつつある。
サービング・推論の効率化
大規模モデルを実運用するための効率化研究が層厚く並んだ。ELDR（19 upvotes）はPD分離型MoEサービングで、負荷だけでなくエキスパート局所性を考慮したdecodeルーティングでレイテンシを削減する。TurboServe（19 upvotes）はストリーミング動画生成という新しいワークロードに対し、長寿命セッションの状態保持を最適化して経済的な提供を狙う。Multimodal Continuous Reasoning（16 upvotes）も離散トークンのボトルネックを避ける連続潜在推論で、推論の質と効率の両立に踏み込む。
評価とベンチマーク
飽和したスコアの先を測ろうとする評価研究が目立った。PerceptionRubrics（33 upvotes、本日最高注目）は原子的ルーブリックでマルチモーダル評価を人間知覚に較正し、大掴みな意味一致では見えない脆弱性を炙り出す。MemSyco-Bench（18 upvotes）は、エージェントのメモリ検索が引き起こす追従性を測る初のベンチマークで、記憶が信頼性に及ぼす負の側面に光を当てる。能力の底上げと並行して、「何を測れていないか」への関心が高まっている。
学習手法とモデル構成
学習パイプラインそのものを問い直す研究も続いた。CausalMix（14 upvotes）はデータ混合を因果推論として定式化し、データプールの変化に頑健な混合重みを導く。AutoTrainess（8 upvotes）は言語モデルが言語モデルを自律的に改善する後訓練エージェントを、State-Prediction Separation Hypothesis（7 upvotes）はTransformerの予測と状態保持の役割分離を提案する。実世界複雑タスクを狙うSeed2.0（16 upvotes）のモデルカードと併せ、データ・学習・アーキテクチャの各層で地固めが進んだ一日だった。