GrepSeekがコーパス直接操作型の検索エージェント訓練で82 upvotesを獲得。COLLEAGUE.SKILLが専門家知識の自動スキル化、Trust-Region Behavior Blendingがオンポリシー蒸留の初期品質問題を解決し、エージェント基盤技術が多面的に深化した。
注目論文
GrepSeek: Training Search Agents for Direct Corpus Interaction
著者: Alireza Salemi, Chang Zeng, Atharva Nijasure et al.
LLMベースの検索エージェントを、従来のキーワード/自然言語クエリによるリトリーバー経由ではなく、コーパスと直接対話する形式で訓練する新手法を提案した研究（82 upvotes）。
新規性: 既存のLLM検索エージェントはリトリーバーを介して情報にアクセスするが、リトリーバーのランキング品質に依存するため、複雑な情報要求に対して限界があった。GrepSeekはリトリーバーを介さずコーパスを直接探索・操作するエージェントを訓練する初のアプローチであり、検索の自由度と精度を大幅に向上させる。
手法: エージェントが複数ラウンドの推論と情報検索を通じてコーパスと直接対話する枠組みを設計。コーパス上での探索的操作を行動空間に含め、エージェントを訓練することで、ランク付きリストに依存しない柔軟な情報アクセスを実現する。
COLLEAGUE.SKILL: Automated AI Skill Generation via Expert Knowledge Distillation
著者: Tianyi Zhou, Dongrui Liu, Leitao Yuan et al.
人物やロールに紐づく専門知識を自動的に蒸留し、LLMエージェント用のスキルとして構造化するフレームワークを提案した研究（69 upvotes）。
新規性: LLMエージェントはタスク完遂だけでなく、人間の専門性・判断・対話スタイルの限定的な表現を持つことが求められるようになっている。しかし人物に紐づく行動可能な知識は通常、暗黙的で分散しており抽出が困難だった。COLLEAGUE.SKILLはこの暗黙知を自動的にスキルとして構造化する初の手法である。
手法: 専門家の知識をパイプラインを通じて蒸留し、エージェントが実行可能なスキル表現に変換する。人物に固有の判断パターンや対話スタイルを保持しつつ、他のエージェントでも再利用可能な形式でスキルを生成する。
Trust-Region Behavior Blending for On-Policy Distillation
著者: Daniil Plyusov, Alexey Gorbatovski, Alexey Malakhov et al.
オンポリシー蒸留（OPD）において、初期の学生ロールアウトが低品質である問題を信頼領域ベースの教師・学生ポリシーブレンドで解決する手法を提案した研究（51 upvotes）。
新規性: OPDは学生自身のロールアウト上で教師を模倣することでオフライン蒸留のプレフィックス不一致を解消するが、初期の学生ロールアウトが貧弱なため、教師の監督が低品質なプレフィックス上に配置される問題があった。TRBBはこの初期品質問題に対する初の体系的解決策を提供する。
手法: 学生と教師のポリシーを信頼領域制約の下でブレンドし、学生の能力に応じて動的にロールアウトの品質を制御する。学生の成長に伴い教師の介入を段階的に減少させることで、安定かつ効率的な知識転移を実現する。
Mellum2 Technical Report
著者: Marko Kojic, Ivan Bondyrev, Aral de Moor et al.
ソフトウェアエンジニアリングに特化したオープンウェイト12B MoEモデル（トークンあたりアクティブ2.5Bパラメータ）を発表した技術報告（34 upvotes）。
新規性: コード生成・編集に特化したLLMは多数存在するが、デバッグ、多段推論、ツール使用、関数呼び出しまでを包括的にカバーするオープンウェイトのMoEモデルは限られていた。Mellum 2はアクティブパラメータ2.5Bという効率的な構成でこれらを統合的に実現する。
手法: 12Bパラメータの Mixture-of-Experts アーキテクチャを採用し、トークンあたり2.5Bのアクティブパラメータで効率的な推論を実現。コード生成・編集、デバッグ、多段推論、ツール使用にまたがる汎用的なソフトウェアエンジニアリング能力を訓練する。
SCOPE: Self-Play via Co-Evolving Policies for Open-Ended Tasks
著者: Wai-Chung Kwan, Aryo Pradipta Gema, Joshua Ong Jun Leang et al.
外部監督やフロンティアモデル判定器なしでオープンエンドタスクの自己対戦を実現する、2ポリシー共進化フレームワークを提案した研究（18 upvotes）。
新規性: 既存の自己対戦手法はルールで検証可能な回答を前提としており、オープンエンドタスクでは人手で作成したプロンプトやフロンティアモデルの判定に依存していた。SCOPEはデータフリーかつ外部判定器不要の自己対戦をオープンエンドタスクに初めて適用する。
手法: 2つのポリシーを共進化させ、一方が問題生成、他方が回答生成を担当する相互改善ループを構築する。キュレーション済みプロンプトやフロンティアモデルの判定なしに、両ポリシーの相互作用から学習信号を生成する。
Task-Focused Memorization for Multimodal Agents
著者: Tao Zou, Yichen He, Tian Qiu et al.
マルチモーダルエージェントの長期記憶構築において、タスク関連性に基づく記憶選択の課題に取り組んだ研究（23 upvotes）。
新規性: 長期記憶はエージェントの一貫した経験構築、世界知識の蓄積、継続学習に不可欠だが、効果的な記憶構築はモジュール設計を超えた本質的課題を含む。何をどのように記憶するかの判断、特にタスクとの関連性に基づく選択が鍵であり、本研究はこの問題を正面から扱う。
手法: タスクの文脈に応じて記憶すべき情報を選択する機構を設計し、単なる記憶の蓄積ではなくタスク遂行に有効な記憶の構成を最適化する。記憶モジュールの設計と記憶内容の選択を統合的に扱う。
Not All Disagreement Is Learnable: Token Teachability in On-Policy Distillation
著者: Yuanyi Wang, Su Lu, Yanggan Gu et al.
オンポリシー蒸留におけるトークンレベルの教師信号の不均一性を再検討し、「教えやすさ（teachability）」の概念を導入した研究（19 upvotes）。
新規性: 最近の選択的OPD手法は高エントロピーや高不一致のトークンを優先するが、教師との不一致が高いトークンが必ずしも学習可能とは限らない。本研究はこの前提を疑い、トークンレベルの教師信号のうちどれが実際に学習に寄与するかを分析する。
手法: 教師と学生の不一致トークンを「教えやすさ」の観点から分類し、学習に実際に寄与するトークンを選択的に監督する手法を提案。高不一致だが学習不可能なトークンへの無駄な最適化を回避し、蒸留効率を向上させる。
dMoE: dLLMs with Learnable Block Experts
著者: Sicheng Feng, Zigeng Chen, Gongfan Fang et al.
拡散言語モデル（dLLM）にMixture-of-Experts構造を効率的に統合する学習可能ブロックエキスパート手法を提案した研究（20 upvotes）。
新規性: dLLMは自己回帰モデルの有望な代替として並列デコーディングを自然にサポートするが、MoEアーキテクチャとの統合においてモデルスケーリングの課題が存在した。dMoEはdLLM固有のブロック単位のデノイジング構造を活かした効率的なMoE統合を実現する。
手法: dLLMの各ブロックに学習可能なエキスパートを配置し、デノイジング過程の各段階で適切なエキスパートを動的に選択する。拡散過程の構造を活用することで、標準的なMoEよりも効率的なパラメータ活用を実現する。
SAAS: Self-Aware Reinforcement Learning for Over-Search Mitigation in Agentic Search
著者: Yunbo Tang, Chengyi Yang, Shiyu Liu et al.
エージェント型検索における過剰検索問題を、モデル自身の知識境界の自己認識に基づく強化学習で緩和する手法を提案した研究（14 upvotes）。
新規性: エージェント型検索は複雑な多段質問に対して反復的な推論と外部検索を可能にするが、エージェントが自身の知識境界を認識できず、不要な検索を盲目的に発動する過剰検索が実用上の大きな制約となっていた。SAASはこの自己認識の欠如に直接対処する。
手法: LLMが自身の知識境界を認識し、検索の必要性を自律的に判断する能力を強化学習で獲得する。既知の情報に対する不要な検索を抑制しつつ、未知の情報に対しては適切に検索を発動するバランスを学習する。
GDSD: Reinforcement Learning as Guided Denoiser Self-Distillation for Diffusion Language Models
著者: Xiaohang Tang, Keyue Jiang, Che Liu et al.
拡散大規模言語モデルの方策尤度の非扱い性を克服する、ガイド付きデノイザー自己蒸留による強化学習手法を提案した研究（3 upvotes）。
新規性: dLLMへの強化学習適用は方策尤度の計算が困難なため、そのエビデンス下界（ELBO）で代替する手法が主流だが、ELBOの緩さが最適化の質を制限していた。GDSDは自己蒸留の枠組みでこの問題を回避し、より直接的な方策改善を実現する。
手法: 報酬信号に基づくガイダンスを用いてデノイザーの自己蒸留を行い、方策尤度を明示的に計算することなくdLLMの方策を改善する。尤度の非扱い性に起因するELBOベース手法の限界を回避しつつ、効率的な強化学習を実現する。
分野別の動向
エージェント・検索
GrepSeek（82 upvotes）がリトリーバーを介さないコーパス直接操作型の検索エージェント訓練を提案し、SAAS（14 upvotes）が過剰検索の自己認識型緩和を設計した。前日のXetrieval（検索の機械的解釈）に続き、検索エージェントの「何を探すか」だけでなく「いつ・どう探すか」の精緻化が進んでいる。
蒸留・知識転移
Trust-Region Behavior Blending（51 upvotes）とNot All Disagreement Is Learnable（19 upvotes）が、オンポリシー蒸留の異なる側面から品質向上を追求した。前者は初期ロールアウト品質、後者はトークンレベルの学習可能性に焦点を当てており、蒸留研究が「教師を模倣する」段階から「何を・いつ・どう学ぶか」を精密に制御する段階へ移行している。
スキル・記憶・自己進化
COLLEAGUE.SKILL（69 upvotes）が専門家知識のスキル自動生成、Task-Focused Memorization（23 upvotes）がタスク指向の記憶構築、SCOPE（18 upvotes）が外部監督なしの自己対戦をそれぞれ提案した。前日のSkill0.5（スキル内在化）と合わせ、エージェントが外部リソースを自律的に獲得・構造化・活用する能力の体系化が加速している。
拡散言語モデル
dMoE（20 upvotes）がdLLMへのMoE統合、GDSD（3 upvotes）がdLLMへの強化学習適用をそれぞれ前進させた。自己回帰モデルの代替としてのdLLMが、スケーリング（MoE）と学習パラダイム（RL）の両面で基盤技術の整備段階に入っている。
ソフトウェアエンジニアリング特化モデル
Mellum 2（34 upvotes）がアクティブ2.5Bパラメータという効率的なMoE構成で、コード生成からデバッグ・ツール使用まで包括的なSE能力を持つオープンウェイトモデルを公開した。コード特化モデルの競争がパラメータ効率と機能の網羅性を同時に追求する方向に進んでいる。