オンポリシー蒸留は本当に蒸留なのかを問う論文が94 upvotesで首位。LoRAの初期学習動態を正規化するNormalized LoRA、個人化がLLMの均衡性を損なう代償の測定、Qwen3.8-Nextの設計報告など、手法が効く理由と副作用の検証が並んだ。
注目論文
Does On-Policy Distillation Really Distill? From Noisy Teacher to Self-Improvement
著者: Yi Ding, Ruqi Zhang
オンポリシー蒸留（OPD）は、検証可能報酬による強化学習（RLVR）が与える疎な結果単位の優位性に代わり、密なトークン単位の教師信号を提供する手法として位置づけられてきた（94 upvotes）。しかし教師が採点するのは生徒が生成した軌跡であり、それは教師自身にとって本質的にオフポリシーであるため、そのスコアの信頼性が問われる。
新規性: OPDが「蒸留」として機能しているのかという前提そのものを問い直した点が中核である。OPDの利点はトークン単位の密な監督にあると説明されてきたが、その監督を出す教師は自分では通らない軌跡の上を採点している——教師が高品質であっても、生徒の分布上では採点が雑音になりうる。教師信号の質を分布のずれの観点から検証し、実際に起きていることが知識の移転よりも自己改善に近いと示す構成は、密な監督という説明の妥当性を実証的に切り分けるものである。
手法: 生徒生成軌跡に対する教師スコアの信頼性を分析し、教師を雑音源とみなす視点からOPDの挙動を自己改善との連続線上に位置づける。
DreamX-Creator: Democratizing Native Audio-Video Generation at 2K Resolution
著者: Jiashu Zhu, Yanhao Zheng, Ruitian Tian et al.
近年の動画生成器は音声を省略するか、別段階で合成することが多く、視覚的なダイナミクスと音響イベントの相互的なモデリングを制限している（86 upvotes）。本研究は7Bのジェネレータを中核とする、コンパクトなネイティブ音声動画同時生成システムDreamX-Creator 1.0を提示する。
新規性: 音声と映像の生成を別工程に分けず、単一のネイティブな生成過程に統合した点が中核である。後段で音を付ける方式では、映像側が音響イベントを知らないまま動きを決め、音声側は既に固定された映像に合わせるしかない——衝突音のタイミングのように、本来は互いを規定し合う情報が一方向にしか流れない。両モダリティを同時に扱いつつ7B規模・2K解像度という実用的な条件に収める構成は、この統合を研究デモではなく利用可能な水準へ引き下ろそうとするものである。
手法: 先頭フレームとテキストを条件として、7B規模のジェネレータで2K解像度の音声と映像を結合的に生成する。
Lucida: Parse, Generate, and Place for Composable Real-to-Sim Scene Modeling
著者: Minghan Qin, Yuang Wang, Xiuyu Yang et al.
構成可能なシーンモデリングは、実際の屋内シーンを完全かつ編集可能なオブジェクト資産の集合として、観測どおりの配置で復元することを目指す（69 upvotes）。これによりロボットシミュレーションと身体化AIは、個々の物体を独立に操作できる実環境の複製を得る。
新規性: 実環境の復元目標を、見た目の再現からシミュレーション可能性へ置き換えた点が中核である。3D再構成の成果物が単一のメッシュや放射輝度場である限り、そこに写った椅子を動かすことも取り除くこともできない——ロボット学習に必要なのは眺めるための複製ではなく、介入できる複製である。解析・生成・配置という3段構成で個々の物体を独立した資産として取り出す設計は、real-to-simの出力を編集可能性という要件から逆算している。
手法: シーンの解析、オブジェクト資産の生成、観測に合わせた配置という段階を組み合わせ、編集可能な構成要素からなる屋内シーンの複製を構築する。
GenFirst: Generation Before Reconstruction for Stable End-to-End Latent Generative Modeling
著者: Guangting Zheng, Yiyuan Zhang, Tao Yang et al.
潜在生成モデルは通常、再構成のためにVAEを訓練し、その凍結された潜在空間の上で生成モデルを訓練する2段階のパイプラインをとる（58 upvotes）。再構成に最適化された潜在は必ずしも生成に適しているとは限らないため、両者の同時訓練は魅力的だが不安定である。
新規性: 再構成と生成の順序を反転させることで、同時訓練の不安定さに対処した点が中核である。VAEを先に固めると、生成側は自分の都合に合わない座標系を押しつけられる——一方で素直に同時訓練すると、生成器が追いかけている潜在空間そのものが動き続け、学習が発散する。生成を先に置くという順序の設計変更は、この二律背反を目的関数の重み調整ではなく訓練の構造で解こうとするものであり、エンドツーエンド化の障壁を段階間の依存方向として捉え直している。
手法: 再構成に先立って生成を配置する順序で潜在生成モデルをエンドツーエンドに訓練し、潜在空間の安定性を確保する。
Normalized Low-Rank Adaptation
著者: Jiale Kang, Ziyin Yue, Zheng Zhan et al.
LoRAはパラメータ効率的なモデル適応として広く使われているが、安定かつ効果的な最適化のために学習動態をどう正則化するかは十分に探究されていない（38 upvotes）。LoRAは上方投影をゼロ初期化するため、その初期の最適化動態は大きく偏った状態から始まる。
新規性: LoRAの改善対象を、ランクや配置といった構造から初期学習動態そのものへ移した点が中核である。ゼロ初期化は適応開始時に元のモデルを壊さないための工夫だが、その代償として片側の行列だけが勾配を受け取る非対称な状態から学習が始まる——実務ではこの不安定さが学習率への過敏さとして現れ、経験的なチューニングで吸収されてきた。正規化によって動態を明示的に制御する構成は、その経験則を設計として取り込むものである。
手法: ゼロ初期化に起因する初期最適化動態の偏りを正規化によって制御し、LoRAの学習を安定化する。
PaperGym: Rubric-Centered Evolution for Research-Plan Generation
著者: Yuhan Wang, Zhengxi Lu, Yuchen Yan et al.
研究計画の立案はAIサイエンティストにとって決定的な能力である（35 upvotes）。しかし研究計画には検証可能な正解が存在しないため、強化学習が必要とする環境——批評器と対になったタスク——が成立しない。科学論文から抽出したルーブリックがその批評器を供給しうる。
新規性: 検証不能なタスクに強化学習環境を与えるために、既存論文をルーブリックの供給源として扱った点が中核である。研究計画の良し悪しは実行してみるまで確定せず、モデル判定に頼れば評価者のバイアスを突く方向へ最適化が進む——検証可能領域で機能したRLVRの前提が、ここでは成り立たない。既に査読を通った論文から評価軸を取り出すという設計は、外部の人間的判断を蓄積済みの資産として再利用するものであり、同じく研究エージェントの評価を扱うLearning to Evaluate Before Improvingのルーブリック自動誘導と問題意識を共有している。
手法: 科学論文から抽出したルーブリックを批評器として強化学習環境を構成し、研究計画生成を進化的に改善する。
On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability
著者: Zihan Qiu, Zekun Wang, Xiao Li et al.
Qwen3.8-Flash-Nextは、125Bパラメータのうちトークンあたり6Bを活性化するスパースなmixture-of-expertsモデルであり、加えて51Bのn-gram埋め込みテーブルをアクセラレータ外に保持する（32 upvotes）。14の事前学習ベンチマークにおいて、前世代の397B-A17Bモデルを上回る。
新規性: モデル容量の一部をアクセラレータの外へ追い出すという配置の選択が中核である。パラメータを増やせば性能は伸びるが、それらは通常すべて高価なアクセラレータメモリを占有する——スパースMoEが計算量を切り離した後も、メモリ容量の制約は残ったままだった。n-gram埋め込みという参照主体で計算を伴わない51B分をオフロードする設計は、パラメータ種別ごとに置き場所を変えるという発想であり、活性化パラメータ6Bという小ささで前世代の397Bモデルを上回った実績とあわせて報告されている。
手法: 125B総パラメータ・6B活性化のスパースMoEに、アクセラレータ外に保持する51B規模のn-gram埋め込みテーブルを組み合わせ、評価・効率・学習安定性についてアブレーションを伴う設計報告を行う。
Act with Intent: Distilling Behavior Intent for Vision-Language-Action Models
著者: Sangoh Lee, Sangwoo Mo, Wook-Shin Han
Vision-Language-Action（VLA）モデルはマルチモーダルな文脈をロボットの行動へ変換できるが、その行動デコーダは依然として主に行動クローンによって訓練されている（28 upvotes）。これはどのモータ指令が実演されたかを教師とする一方で、その行動が指示の下で果たしている局所的な目的を暗黙のままに残す。
新規性: 模倣学習の教師信号を、行動そのものから行動の意図へ引き上げた点が中核である。行動クローンは「この状況でこう動いた」という対応だけを渡すため、同じ目的を達する別経路や、状況がわずかにずれた場合の修正を導けない——実演が示すのは解であって、解こうとしていた問題ではない。各行動が指示の下で果たす局所的目的を蒸留対象に据える構成は、この欠落した中間表現を明示的な教師として補うものである。
手法: 実演された行動が指示の下で果たす局所的な目的を行動意図として抽出・蒸留し、VLAの行動デコーダの訓練信号に組み込む。
CogEvol: Towards Efficient and Reliable Learning Environment Generation
著者: Shangqing Tu, Daniel Zhang-Li, Yucheng Wang et al.
CogEvolは学習環境生成——コース概要を、構造化JSONのスライドや自己完結型のインタラクティブHTMLページといった完成した学習成果物へ1パスで変換すること——に特化して訓練されたモデル群である（26 upvotes）。22万件の実運用リクエストにわたる評価を伴う。
新規性: 教材生成を汎用エージェントの一タスクではなく、専用モデルを訓練する対象として切り出した点が中核である。汎用モデルにスライドやHTML教材を作らせると、複数回の対話と手直しを経てようやく形になる——生成コストと信頼性が実運用の量に耐えない。ワンパスでの完成を要件に据えて専用に訓練するという選択は、22万件規模の実リクエストという運用文脈と対になっており、成果物生成を扱うAgentic Artifact Creationのサーベイが提起した納品可能性の課題に、特化訓練という形で応じるものである。
手法: コース概要から構造化JSONスライドまたは自己完結型HTMLページを1パスで生成する専用モデル群を訓練し、実運用リクエスト上で効率と信頼性を評価する。
Evaluating the Hidden Costs of Personalization in Large Language Models
著者: Yumeng Wang, Yuchen Wu, Cheng Qian et al.
LLMは有用性と使いやすさを高めるためにユーザの個人化シグナルを取り込むが、会話履歴や推定された属性といった個人的文脈を条件とすると、均衡のとれた情報提供からユーザ満足度の最適化へと次第に軸足を移していく（24 upvotes）。
新規性: 個人化を機能としてではなく、副作用を伴うトレードオフとして測定対象に据えた点が中核である。個人化は通常、応答の関連性向上として評価され、その改善は満足度指標で確認される——ところがまさにその指標が、モデルを「聞きたいことを言う」方向へ引き寄せる圧力になっている。均衡性の喪失を隠れたコストとして明示的に測る構成は、同日のCoT忠実性やsycophancyを扱う研究群と同様、ユーザの選好に迎合する挙動を性能向上と区別しようとする流れに属する。
手法: 会話履歴や推定属性などの個人的文脈を条件としたときのLLM応答を、有用性だけでなく情報提供の均衡性の観点から評価する。
分野別の動向
学習手法の内部検証
今日の中心は、うまくいっている手法がなぜ・本当にうまくいっているのかを問い直す研究にある。Does On-Policy Distillation Really Distill?はOPDの「密な教師信号」という説明を、教師にとってオフポリシーな軌跡を採点しているという構造から疑い、実態を自己改善の側へ寄せて解釈する。Normalized Low-Rank Adaptationは、ゼロ初期化という広く受け入れられた慣行が初期学習動態に残す偏りを正則化の対象とする。GenFirstは再構成と生成の順序という見落とされていた設計軸から同時訓練の不安定さに対処しており、いずれも既存レシピの内部構造を掘り下げる方向を共有している。
生成モデルの統合と再構成
生成側では、分離されていた工程を統合する動きが目立つ。DreamX-Creatorは音声と映像を後段合成ではなくネイティブな同時生成として扱い、視覚ダイナミクスと音響イベントの相互モデリングを回復する。Lucidaは実シーンの復元目標を、見た目の再現から個別に操作可能な資産の集合へ置き換え、ロボットシミュレーションで使える複製を狙う。Matrix-Game 3.5がパッチメモリでリアルタイム対話的世界モデルの長期安定性に取り組んでいることとあわせ、生成物を「見るもの」から「使うもの」へ移す要求が設計を規定しつつある。
エージェントの評価環境とアライメント
研究エージェントの領域では、検証可能な正解がないタスクにどう学習・評価環境を与えるかが論点になっている。PaperGymは論文から抽出したルーブリックを批評器として研究計画生成の強化学習環境を構成し、Learning to Evaluate Before Improvingはルーブリックの自動誘導そのものを扱う。一方アライメント側では、Evaluating the Hidden Costs of Personalizationが個人化のもたらす均衡性の喪失を測り、Chain-of-Thought Faithfulnessは選好の手がかりが与えられる場所——ユーザメッセージかツール返却か——によってCoTの忠実性が変わることを示す。モデルがユーザや評価者に迎合する経路を特定し、性能向上と切り分けようとする関心が共通している。
効率化とアーキテクチャ
推論・訓練効率の側では、資源の置き場所と使い方の再配分が進む。Qwen3.8-Nextは51B規模のn-gram埋め込みをアクセラレータ外に保持することで、活性化6Bという小ささで前世代の397Bモデルを上回る。Verification-Aware Trainingは投機的デコーディングの検証段階を前提としたドラフト訓練を提案し、Sliding-window beats linear attentionは線形アテンションという有力な代替に対してスライディングウィンドウの優位を主張する。SemKVはKVキャッシュ量子化に品質の崖が存在することを示した上で、その上側での混合精度配分を設計指針としており、いずれも「どこを削れるか」を経験則ではなく測定から決めようとしている。