制約充足型の深層研究を再帰的自己改善で解くAREX(139 upvotes)が突出。カリキュラム認知を測るK12-KGraph、外部教師なしの視覚的自己蒸留、拡散言語モデルの潜在時刻解析まで、エージェントの学習・評価を軸に多彩な研究が並んだ。
注目論文
AREX: Towards a Recursively Self-Improving Agent for Deep Research
著者: Shuqi Lu, Chaofan Li, Kun Luo et al.
深層研究は、複数の制約を同時に満たす答えをエージェントが見つけることを要求する。そうした答えの発見はコストが高い一方、候補の検証は制約ごとの扱いやすいチェックに分解できることが多い(139 upvotes、本日最上位)。
新規性: 発見は難しいが検証は容易という「発見・検証の非対称性」に着目し、研究エージェントを再帰的に自己改善させる枠組みを提示した点が貢献である。
手法: 制約充足型のタスクにおいて、答えの探索と制約単位の検証を分離し、検証で得た信号を使ってエージェント自身の探索能力を再帰的に強化する。
K12-KGraph: A Curriculum-Aligned Knowledge Graph for Benchmarking and Training Educational LLMs
著者: Hao Liang, Qihan Lin, Zhaoyang Han et al.
LLMは初中等(K-12)教育で活用が進むが、既存ベンチマークは主に試験問題の解答を測るにとどまり、カリキュラム知識がどう構造化され視覚的に提示されるかの理解を評価していない。著者らはこれを「カリキュラム認知」と呼ぶ(57 upvotes)。
新規性: 前提連鎖や概念分類といったカリキュラム知識の構造を測る、カリキュラム整合の知識グラフとベンチマークを整備した点が新しい。
手法: K-12カリキュラムの前提関係・概念タキソノミーを知識グラフとして構築し、教育用LLMのベンチマーク評価と訓練の両方に利用できる基盤を提供する。
ReferTrack: Referring Then Tracking for Embodied Visual Tracking
著者: Hanjing Ye, Tianle Zeng, Jiazhao Zhang et al.
具現化視覚追跡(EVT)は、移動エージェントが自然言語で記述された特定対象を、搭載カメラのみで継続的に追従することを求める。近年のVLA方策は対象同定と軌道計画を統合するが、その連鎖推論(CoT)はしばしば重い(49 upvotes)。
新規性: 「まず対象を参照同定してから追従する」と段階を分離し、VLAの推論負荷を抑えつつ具現化視覚追跡を実現した点が貢献である。
手法: 自然言語で指定した対象の同定(referring)と、その後の継続追従(tracking)を分割することで、統合型VLAのCoT推論に伴うコストと不安定さを緩和する。
Visual Contrastive Self-Distillation
著者: Yijun Liang, Yunjie Tian, Yijiang Li et al.
オンポリシー自己蒸留(OPSD)は、オンポリシー蒸留(OPD)が必要とする外部教師を不要にできる点で有望だが、それでも自己教師が生徒より強い学習信号を出すための非対称情報を要する(43 upvotes)。
新規性: 外部教師なしの自己蒸留に視覚的対照(contrastive)の仕組みを導入し、自己教師が生徒を上回る学習信号を出す非対称性を確保した点が新しい。
手法: 視覚的対照によって自己教師と生徒の間に情報の非対称性を作り出し、外部教師なしでも生徒が有効な蒸留信号を受け取れるようにする。
Subliminal Clocks: Latent Time Modelling in Diffusion Language Models
著者: Maximo Eduardo Rulli, Thomas Vaitses Fontanari, Simone Petruzzi et al.
拡散言語モデル(DLM)は自己回帰モデルの有望な代替として登場した。標準的な拡散手法と異なりDLMはタイムステップを明示的に条件づけないため、モデルが脱ノイズの進行を内部で表現しているのかという自然な問いが生じる(38 upvotes)。
新規性: タイムステップ非依存の拡散言語モデルが、脱ノイズ進行という「潜在的な時刻」を内部でどう表現するかを解析した点が新しい。
手法: DLMの内部表現を調べ、明示的なタイムステップ条件づけがないにもかかわらず、モデルが脱ノイズの進行度を潜在的に符号化しているかどうかとその形態を検証する。
Show, Don’t Tell: Evaluating Spatial Cognition in Generative Pixels Rather Than LLM Text
著者: Xu Wang, Kaixiang Yao, Miao Pan et al.
空間知能は、エージェントが静的な意味理解から物理世界との相互作用へ進むために不可欠である。多くの空間タスクは連続的な視覚シーンに根ざしており、位置・領域・経路は言語よりも、指し示す・印を付ける・描くといった方法で自然に表現される(35 upvotes)。
新規性: 空間認知をLLMのテキスト出力ではなく、生成ピクセル(描画)によって評価する新しい枠組みを提示した点が貢献である。
手法: 位置・領域・経路をテキストで言語化させる代わりに、モデルに生成的なピクセル出力で示させることで、空間認知能力をより直接的に評価する。
LLMs Get Lost in Evolving User Intent
著者: Jihoon Tack, Philippe Laban, Jennifer Neville
LLMは能力向上に伴い、ユーザーから委任されたタスクを反復的な相互作用でこなす協働エージェントとして展開が進む。しかし真の相互作用は本質的に動的で、ユーザーは意図を最初に明示せず、開示・修正・再構成しながら伝える(21 upvotes)。
新規性: 対話の中で逐次開示・改訂される動的なユーザー意図に、LLMエージェントが追従できないことを体系的に検証した点が新しい。
手法: ユーザー意図が会話の進行とともに変化する設定を構築し、LLMエージェントが更新された意図をどこまで捉え損ねるかを評価して失敗様態を明らかにする。
Sample-Efficient Learning from Agent Experience
著者: Chenhui Gou, Haoqin Tu, Yunhao Fang et al.
実世界のエージェント学習は、時間のかかる実験や人手フィードバックの取得など、コストの高い環境相互作用に制約されがちである。コンテキスト内学習はエージェント自身の履歴から高いサンプル効率で学べるが、その利得はある点を越えると消える(12 upvotes)。
新規性: コンテキスト内学習の頭打ちを越え、エージェント自身の相互作用履歴から高いサンプル効率で学習し続ける手法を提示した点が貢献である。
手法: エージェント自身の経験(相互作用履歴)を効率的に取り込む学習を設計し、コンテキスト内学習だけでは伸び悩む領域でもサンプル効率を維持して性能を向上させる。
Multi-Turn On-Policy Distillation with Prefix Replay
著者: Baohao Liao, Hanze Dong, Christof Monz et al.
LLMエージェントが環境と複数ターンにわたり相互作用し、生徒がそのマルチターン履歴上で教師を模倣するエージェント的課題向けのオンポリシー蒸留(OPD)を扱う。完全オンラインのOPDは、各更新で生徒による新規ロールアウトを要するため高コストである(9 upvotes)。
新規性: エージェント的マルチターン課題向けに、プレフィックス再生(prefix replay)で高コストなオンポリシー蒸留を効率化した点が新しい。
手法: 過去の相互作用のプレフィックスを再利用(replay)することで、毎回の更新に必要な新規ロールアウトのコストを抑えつつ、マルチターンのオンポリシー蒸留を実行する。
Where Should Optimizer State Live? Tiered State Allocation for Memory-Efficient Mixture-of-Experts Training
著者: Nuemaan Malik
最適化状態はMoE学習のメモリ予算で最大の単一項目であり、6.78BパラメータのMoE言語モデルでは、AdamWが12.6 GBのbfloat16重みを更新するために50.6 GBの一次・二次モーメントを保持する(6 upvotes)。
新規性: 最適化状態を階層的に配置するSkewAdamを提案し、MoE学習で最大のメモリ要因である最適化状態を効率化した点が貢献である。
手法: 最適化状態の一次・二次モーメントを階層的(tiered)に割り当てるSkewAdamにより、モーメント保持に伴う巨大なメモリ消費を抑えつつMoEを学習する。
分野別の動向
エージェントの学習と自己改善
学習ループそのものを詰める研究が上位を占めた。AREX(139 upvotes、本日最上位)は発見・検証の非対称性を突き、検証信号で研究エージェントを再帰的に自己改善させる。Sample-Efficient Learning from Agent Experience(12 upvotes)はコンテキスト内学習の頭打ちを越えて自身の履歴から学び続け、Multi-Turn On-Policy Distillation with Prefix Replay(9 upvotes)はプレフィックス再生でマルチターン蒸留のコストを抑える。エージェントが自らの経験をどう学習資源に変えるかが共通のテーマである。
蒸留と学習効率
外部依存を減らしつつ学習を回す工夫が並んだ。Visual Contrastive Self-Distillation(43 upvotes)は視覚的対照で外部教師なしの自己蒸留に必要な非対称性を確保し、Where Should Optimizer State Live?(6 upvotes)はMoE学習で最大のメモリ要因である最適化状態を階層配置で圧縮する。教師とメモリという学習の「重い部分」を軽くする方向で足回りが強化されている。
具現化・空間認知とマルチモーダル評価
視覚に根ざした能力の評価と実行が同時に進んだ。ReferTrack(49 upvotes)は参照同定と追従を分離して具現化視覚追跡のVLA推論を軽くし、Show, Don’t Tell(35 upvotes)は空間認知をテキストではなく生成ピクセルで測る。テキスト経由では捉えにくい空間的・具現的な能力を、より直接的に扱おうとする流れが見える。
言語モデルの内部理解とユーザー適応
モデルの内側と対話適応に光を当てる研究も目立った。Subliminal Clocks(38 upvotes)はタイムステップ非依存の拡散言語モデルが潜在的に脱ノイズ進行(時刻)を符号化するかを解析し、LLMs Get Lost in Evolving User Intent(21 upvotes)は逐次改訂される動的意図への追従失敗を検証する。加えてK12-KGraph(57 upvotes)はカリキュラム認知という新しい評価軸を教育LLMに持ち込み、能力の可視化が続いている。