オンポリシー蒸留を無条件に適用せず、教師の信頼性をプロンプト単位で検証するVerify Before You Distill、検証器を接地したFlowBalance、批判的レビューOne Symptom Three Leversが同日に並んだ。自己回帰分布を保ったまま高速化する離散拡散LLM、研究ワークスペースDr. Claw、人間動画をデータ源に変えるRoboTokも上位を占めた。
注目論文
Dr. Claw: An AI Scientist Workspace for Vibe Research
著者: Dingjie Song, Hanrong Zhang, Dawei Liu et al.
Claude Code や Gemini CLI といったコマンドラインのコーディングエージェントは、すでにファイルの読み書きができ、長いセッションを維持できる（124 upvotes）。それにもかかわらず、エンドツーエンドの研究活動はチャットツール・IDE・ターミナル・執筆環境へと分断されたままであり、研究を監査可能にするはずの意思決定はほとんど保存されない。著者らは、これらを一つのワークスペースへ束ねる Dr. Claw を提示する。
新規性: エージェントの能力ではなく、研究プロセスの記録の断絶を問題として置いた点が中核である。コーディングエージェントは個々の作業を代行できるようになったが、なぜその実験を選び、なぜその結果を採用したのかという判断は、ツール間を移動するたびに失われる——最終的な論文やコードは残っても、そこへ至る決定の系列は再構成できない。ワークスペースを一つに統合することは、生産性の話であると同時に、研究の追跡可能性を成果物として残す設計判断でもある。
手法: CLIコーディングエージェントを中核に据え、探索・実験・執筆までの研究ワークフローを単一の環境へ統合し、その過程の意思決定を監査可能な形で保持する。
RoboTok: An Internet-Scale Data Engine for Human Demonstration Retrieval and Dexterous Manipulation Learning
著者: Howard Qian, Yiting Chen, Yunfei Xie et al.
ロボット学習は幅広く多様なデモンストレーションに依存する度合いを強めているが、ロボットデータの収集は依然として高価であり、現実世界のタスクのロングテールを覆うには向いていない（116 upvotes）。RoboTok は、人間のマニピュレーション動画のクエリを与えると、インターネット規模のコーパスから該当する実演を検索してくるデータエンジンである。
新規性: データ不足を「ロボットで多く集める」ではなく「すでに存在する人間の動画から引いてくる」問題へ置き換えた点が中核である。ロボット実機のデータ収集はタスクごとに線形のコストがかかるため、珍しい操作ほど集まらない——ところがその珍しい操作の映像は、人間がやっている限りネット上に大量にある。必要なのは新規収集ではなく検索であり、ボトルネックはハードウェアではなくインデックスの側にある、という読み替えである。
手法: 人間のマニピュレーション動画クエリに対してインターネット規模のコーパスから実演を検索するデータエンジンを構成し、得られたデータを器用マニピュレーション（dexterous manipulation）の学習へ供給する。
Unlocking Lossless Speedups in LLMs via Discrete Diffusion
著者: Subham Sekhar Sahoo, Lingjie Chen, Khiem Pham et al.
大規模言語モデルの成功の多くは次トークン予測（NTP）に負っているが、その自己回帰（AR）構造は逐次的で遅い生成を要求する（90 upvotes）。このボトルネックを解消するため、著者らは diffusion-augmented LLM という新しいモデル族を導入する。これは AR モデルの分布を定義しつつ、離散拡散を併用する構成である。
新規性: 高速化を品質とのトレードオフではなく「損失なし（lossless）」として設計した点が中核である。並列生成による高速化はこれまで、AR分布からの逸脱を代償にしてきた——拡散モデルへ置き換えれば速いが、それはもはや同じモデルの出力ではない。AR モデルの分布そのものを定義した上で拡散を補助に使う構成であれば、速度の改善は分布の近似ではなくサンプリング手続きの改善として得られる。
手法: 自己回帰モデルの分布を保ちながら離散拡散を組み合わせる diffusion-augmented LLM を定義し、逐次的なトークン生成の制約を緩和して推論を高速化する。
FlowBalance: Verifier-Grounded Self-Improvement from On-Policy Reasoning Experience
著者: Zixun Huang, Kishan Panaganti, Haitao Mi, Leowei Liang
推論モデルは自身のオンポリシー経験から改善できるが、この内側のループは脆弱である（69 upvotes）。終端の検証器（terminal verifier）は信頼できるが疎な教師信号しか与えず、一方で同一モデルによる密な指導は誤った確信を強化したり、狭い解法モードへ学習を過度に集中させたりする。FlowBalance はこの二つの間を取る手法である。
新規性: 自己改善の失敗を「教師信号の質」ではなく「疎密のバランス」の問題として定式化した点が中核である。検証器は正しいが情報量が足りず、自己指導は情報量はあるが正しさの保証がない——どちらか一方に寄せる限り、疎さによる学習の遅さか、自己確信の増幅かのいずれかが必ず出る。両者を混ぜるのではなく、検証器を接地点（grounding）として密な信号を制御下に置く構成が要点である。
手法: 終端検証器による信頼できる報酬に密なオンポリシー指導を接地させ、誤った確信の強化と解法モードの過集中を抑えながら推論経験から自己改善する。
Verify Before You Distill: Prompt-Level Teacher Gating for On-Policy Distillation
著者: Zhiwei Zhang, Zechen Sun, Fei Zhao et al.
オンポリシー蒸留（OPD）は、凍結した教師モデルが生徒自身のロールアウトに対して密なトークン単位の教師信号を与えることで、事後学習を加速する（10 upvotes）。しかし素朴な OPD はこの教師信号をすべてのプロンプトへ一様に適用し、そのプロンプトについて教師が信頼できるかどうかを確認しない。逆KLの性質上、これは無視できない問題になる。
新規性: 教師の信頼性をモデル単位ではなくプロンプト単位で問い直した点が中核である。「教師は生徒より強い」という前提はモデル全体の平均性能の話であり、個別のプロンプトでは成り立たない場合がある——そこで密な教師信号を与えれば、生徒は教師の誤りを高い解像度で学ぶことになる。適用前に教師を検証してゲートをかけるという発想は、蒸留を無条件の恩恵ではなく条件付きの操作として扱い直すものである。
手法: プロンプトごとに教師の信頼性を検証し、信頼できると判定されたプロンプトに限って密なトークン単位の蒸留信号を適用する teacher gating を導入する。
The Attention Triangle in Audio-Video Models
著者: Sagi Polaczek, Noa Kraicer, Gal Metzer et al.
音声・映像の拡散モデルは、テキスト・音・視覚内容を協調させるためにクロスモーダル注意へ依存している（29 upvotes）。だが著者らによれば、まさにその機構が微細で体系的な意味漏洩（semantic leakage）を持ち込む。三つのクロスアテンション辺からなる「注意の三角形」を探査・解析することで、モデルの挙動を調べる。
新規性: モダリティ間の干渉を、個別の失敗例ではなく三辺構造という解析単位で扱った点が中核である。音声・映像モデルの生成品質は通常、出力の見え方と聞こえ方で評価される——しかしテキストが音へ、音が映像へと意図せず滲む現象は、出力単体を眺めても原因の辺を特定できない。三つの辺を分けて探査することは、漏洩がどの経路で起きているかを名指しできる形にする作業である。
手法: テキスト・音声・映像の三者間クロスアテンションを三辺構造として定義し、各辺を探査して体系的な意味漏洩の発生経路を解析する。
DRACO: Fine-Grained Credit Assignment with Dynamic Rubrics for Long-Horizon Agent Training
著者: Shubham Gandhi, Saurabh Goyal, Kiran Kate, Yara Rizk
検証可能な報酬による強化学習は、タスクにプログラム的な判定器がある場合にはうまく機能するが、長期エージェント領域の大半にはそれがない（26 upvotes）。著者らは、正解の成功信号が得られない outcome-blind な設定を対象とする。この設定で報酬を供給する一般的な方法は多基準ルーブリックだが、DRACO はそれを動的に扱う。
新規性: ルーブリックを固定の採点表ではなく、学習中に更新される構造として置いた点が中核である。長期タスクでは、成功したかどうかが分からないだけでなく、どのステップが成果に寄与したのかも分からない——静的なルーブリックは軌跡全体へ粗い点数を与えるだけで、クレジット割当の問題を解かない。ルーブリックを動的に細分化することは、判定器のない領域で細粒度の教師信号を作り出す試みである。
手法: outcome-blind な長期エージェント領域において、動的な多基準ルーブリックを用いて軌跡内のステップへ細粒度のクレジット割当を行う強化学習手法を構成する。
Using Grounded Theory for Agent Behavior Analysis at Scale
著者: Zhuoran Lu, Yangyang Yu, Zhuoyan Li et al.
エージェントの挙動を理解するには、数千件の軌跡へスケールし、かつ長く見慣れないタスクの中から新しいパターンを浮かび上がらせる手法が要る（19 upvotes）。事前に作られた分類器では、この二つを同時には満たせない。著者らは、社会科学で60年の歴史を持つ質的手法であるグラウンデッド・セオリーをエージェント軌跡分析へ持ち込むことを提案する。
新規性: 分析の枠組み自体をデータから立ち上げる方法論を、エージェント研究へ移植した点が中核である。既存の分類器による軌跡分析は、何を探すかをあらかじめ決めているため、想定外の挙動は「その他」に落ちて見えなくなる——エージェントの失敗で本当に知りたいのは、まさにその想定外の側である。グラウンデッド・セオリーはカテゴリを先に置かずデータから構築する手法であり、この非対称性に正面から対応する。
手法: グラウンデッド・セオリーの六段階の質的分析手続きをエージェント軌跡へ適用し、数千件規模へスケールさせながら事前定義されていない挙動パターンを抽出する。
Ask Before You Optimize: Dynamic Pre-Formulation Clarification for Interactive Optimization
著者: Sihan Ge, Yichen Lin, Chenyu Zhou et al.
大規模言語モデルは、自然言語の問題記述から最適化モデルを定式化する用途で使われることが増えている（17 upvotes）。しかし現実のオペレーションズ・リサーチ（OR）の依頼はしばしば不完全であり、目的関数・制約・業務ルールの欠落は、結果として得られる数理計画そのものを変えてしまう。
新規性: 定式化の誤りを、モデルの推論能力ではなく入力の不完全性の問題として切り分けた点が中核である。LLM に不完全な要求を渡せば、欠けた前提は暗黙のうちに補完される——出力される数理計画は構文的には正しく、ユーザが意図しなかった問題を解いている。定式化の後に検算するのではなく、定式化の前に問い返すという順序の変更が、この失敗を発生源で止める。
手法: 問題記述から不足している目的・制約・業務ルールを動的に検出し、定式化を実行する前にユーザへ確認質問を投げる対話的最適化の枠組みを構成する。
Select, Compress, Reinvest: A Controlled Study of Visual-Token Allocation in Long-Video MLLMs
著者: Prakhar Khatri
長尺動画の言語モデルは、すべてのフレームを見ることができない（15 upvotes）。1秒に1枚サンプリングした1時間の動画は3,600枚の画像になるが、システムはそのプールのうち小さな固定枠しか保持しない。どのフレームがその枠に生き残るかは通常、前処理の些事として扱われる。著者はそれが設計変数として扱われるべきかどうかを検証する。
新規性: フレーム選択・圧縮・再配分を、統制実験の対象として一つの軸に並べた点が中核である。長尺動画MLLMの性能差は、モデルアーキテクチャの差として報告されるのが通例である——だが入力側で何を捨てたかが変われば、同じモデルでも見える内容が変わる。選択器を差し替えた統制条件で比較することは、報告されている改善のうちどこまでがモデルの寄与かを分離する作業である。
手法: 長尺動画MLLMにおける視覚トークンの割当を、フレームの選択・圧縮・浮いた予算の再投資という三つの操作へ分解し、既存の選択器を統制条件下で比較する。
分野別の動向
オンポリシー蒸留の見直し
今日もっとも密度が高かったのは、オンポリシー蒸留（OPD）を無条件に使うことへの疑いである。Verify Before You Distill は、教師が各プロンプトで信頼できるかを検証してからゲートをかける。FlowBalance は検証器を接地点として密な自己指導を制御し、誤った確信の増幅を抑える。RISE は、外部教師の分布不一致と自己蒸留の文脈内学習による限界という二つのボトルネックに対し、自己外挿による再帰的な改善を提案する。そして One Symptom, Three Levers は、On-Policy Self-Distillation を批判的にレビューし、教師モデルという第二の大型モデルを要求する構成そのものを問い直す。手法の提案とその批判的整理が同日に並んだことは、OPD が「効く技法」から「条件を明示すべき技法」へ移行しつつあることを示している。
検証器のない領域での強化学習
DRACO は、プログラム的な判定器を持たない長期エージェント領域で、動的ルーブリックによる細粒度のクレジット割当を試みる。Group Adaptive Clipping Policy Optimization は、RLVR で全ロールアウトに一律の重要度サンプリング比クリッピング境界を使うことの限界を指摘し、難問での稀な正解と易問での豊富な正解を区別する。Locked at the Entrance, Open Inside は、RLVR が pass@1 を上げる一方で解空間を収縮させる現象について、推論軌跡のどこで多様性が失われるかを調べる。報酬の設計ではなく、報酬から学習信号を取り出す経路の側に問題を見る論文が揃った。
エージェントの観測と作業環境
Dr. Claw は研究ワークフロー全体を単一のワークスペースへ統合し、意思決定を監査可能な形で残す。Using Grounded Theory は、逆にすでに走ったエージェントの軌跡を数千件規模で読み解く手法を、社会科学から借りてくる。作る側と観る側の両方で、エージェントの振る舞いを後から追跡できる形にすることへ関心が向いている。τ^τ-Bench は、エージェントの構築作業自体がコーディングエージェントへ委ねられつつある状況を踏まえ、AIシステムがエージェントを一つ作り上げられるかを問う環境を提示しており、この流れと地続きである。
効率化とマルチモーダル
Unlocking Lossless Speedups は、自己回帰分布を保ったまま離散拡散を併用することで、生成の逐次性というボトルネックを品質の代償なしに緩める。When Quantization Breaks Memory は、再帰ネットワークで量子化された状態が次ステップへ書き戻される際、その保存規則が後続の計算を変えてしまう点を扱う。マルチモーダル側では、The Attention Triangle がクロスモーダル注意の意味漏洩を三辺構造として解析し、Select, Compress, Reinvest が長尺動画のフレーム選択を性能を左右する設計変数として測り直す。ENEAS は SAM 3 を含む最新の基盤モデルでも残る時間的幻覚・空間的断片化・意味誤分類に対処し、Scal3R は長尺動画のオンライン3D再構成で、第1フレーム固定のアンカーに対する姿勢回帰が訓練分布外への外挿を強いる構造的問題を指摘する。
安全性とアライメント
Safety for Whom? は、安全性アラインメントが通常「この主題は有害か」というトピック単位の問いとして立てられている一方、実際の運用が求めるのはより狭い境界であることを指摘する。公民科のチューターと公共部門アシスタントは同じベースモデルを共有しながら、同一トピック内で異なる境界を必要とする。Knowing What Not to Answer は、視覚言語モデルの非遵守（non-compliance）をクエリ全体ではなく部分単位で評価し、Refuse without Refusal は安全チューニング済み応答の構造を分析して過剰拒否を減らす。拒否か応答かの二値ではなく、その中間の粒度を扱う方向で揃っている。