自由生成をやめて選択肢上の確率だけを返す Jev 型判定モデルの報告が5本並び、検索エージェント向けの SearchJev も上位に入った。エージェント評価でも「組み立てられるか」「失敗から戻れるか」と、出力の見た目の先を問うベンチマークが目立った。
注目論文
In-Distribution Forcing for Long Video Generation at Test Time
著者: Jeongwoo Shin, Youngyoon Choi, Sangwoo Jo et al.
自己回帰（AR）型の動画拡散モデルは短い動画の生成には強いが、長い動画を生成すると色やテクスチャがずれ、動きが弱まっていく「ドリフト」が起きる（27 upvotes、本日最多）。本研究は、このドリフトをテスト時に抑える手法を提案する。
新規性: 長尺生成の劣化に、学習し直さずテスト時の操作で対処する点が中核である。既存手法は主に KV 条件付け、つまりキャッシュされたキーや値を選んだり書き換えたりする形で対処している。タイトルの「In-Distribution」が示すとおり、本研究は生成の途中経過を学習分布の内側にとどめる方向から、この問題に取り組む。
手法: AR 動画拡散モデルの長尺生成中、テスト時に生成状態を分布内へ保つよう介入し、ドリフトを抑える（詳細は本文を参照）。
LMBuild: Evaluating LLM Agents for Generating Buildable and Functional Structures
著者: Jiateng Liu, Rushi Wang, Cheng Qian et al.
LLM エージェントは複雑な3D構造を生成できるようになりつつあり、物理世界での設計や製作のやり方を変える可能性がある（23 upvotes）。本研究は、エージェントが生成する構造を「実際に組み立てられるか」「意図した機能を果たすか」で評価するベンチマークを提案する。
新規性: 3D生成の評価軸を、形状の見た目から施工可能性と機能へ移した点が中核である。本研究が指摘するとおり、美しい形状を作ることと、組み立てられて意図どおりに機能する物体を作ることは本質的に別の問題である。見た目の評価だけでは、この差を測れない。
手法: LLM エージェントに構造物を生成させ、組み立て可能性と機能性の両面から評価する枠組みを構築する。
Foundations of Proactive Agents: Principles, Technical Layers, and Proactivity-Gym
著者: Jio Oh, Seunghyun Do, Young-Jun Lee et al.
プロアクティブな LLM エージェントは、空いている計算資源を使い、ユーザーに頼まれる前に支援を用意できる（20 upvotes）。ただし内容が正しくても、ユーザーの状況を読み違えたり、確認の手間を増やしたり、信頼を損ねたりするおそれがある。本研究は、プロアクティブエージェントの設計・実装・評価の基盤を提案する。
新規性: プロアクティブ性を「先回りして正しい仕事をすること」としてではなく、ユーザーとの関係のなかで成り立つ性質として定式化した点が中核である。正しい成果物でも、確認コストや信頼の低下という形でユーザーに負担をかけうる。本研究は、その点を設計原則に組み込んでいる。
手法: 3つの原則を同時に満たすことを求める枠組み（3T）を軸に、プロアクティブエージェントの技術層を整理し、評価環境 Proactivity-Gym を提供する。
Self-Generated Feedback Destabilizes Test-Time Training: A Causal Decomposition of Long-Horizon Adaptation
著者: Cheng Luo, Bing Li, Bernard Ghanem
テスト時学習（TTT）では、モデルが推論中に情報を重みに蓄える（18 upvotes）。しかし自分の出力から学習すると、更新のたびに次の学習データを生成するモデル自体が変わってしまう。本研究は、128K トークンのストリームで生成テキストによる更新を残すと予測が悪化することを示し、その要因を因果的に分解する。
新規性: TTT の不安定さを、手法の調整不足ではなく「生成と学習が互いに影響し合うループ」の構造に求めた点が中核である。外部から与えられたテキストで学習する場合と違い、自己生成フィードバックでは学習データの分布がモデル更新に応じて動く。長期の適応を設計するには、この効果を切り分けて理解する必要がある。
手法: 128K トークン規模のストリームで、生成テキストからの更新が予測性能に与える影響を要因ごとに分解して分析する。
Optimizing the Optimizer: Language Models Discover Faster Molecular Relaxation
著者: Artem Tsypin, Vladimir Deshchenya, Kuzma Khrabrov et al.
構造最適化は、多くの量子化学計算で大きなコストを占める（16 upvotes）。最適化を1ステップ進めるたびに力の評価が1回必要で、密度汎関数レベルではこの評価が計算時間の大半を占める。本研究は、言語モデルにより高速な分子構造緩和アルゴリズムを発見させられるかを問う。
新規性: LLM を使って、科学計算の中核にある最適化器そのものを探索させた点が中核である。この分野ではすでに多様な最適化手法が提案されてきた。そのうえで本研究は、必要な力評価の回数を減らす改良を LLM による探索で見つけられるかを検証する。
手法: 言語モデルで構造最適化アルゴリズムの候補を探索・改良し、少ない力評価で収束する最適化器を発見する。
SearchJev: A Fast and Calibrated System-1 Model for Search Agents
著者: Congfeng Cao, Lipeng Zuo, Konstantinos Papakostas et al.
検索エージェントは、関連性、証拠が十分か、次にどう検索するかといった短い判断を繰り返す（13 upvotes）。これらの判断を生成言語モデルに任せると、遅延が増え、確信度も信頼しにくくなる。本研究は、こうした判断を生成から切り離す、高速で較正済みの「System-1」モデル SearchJev を提示する。
新規性: 検索エージェントの細かな判断を生成 LLM の推論から外し、専用の判定モデルに任せる構成をとった点が中核である。判断を生成で行うと、その都度テキスト生成の遅延がかかり、出力された確信度も較正されていない。選択肢上の確率を直接返す判定モデルなら、速度と確信度の信頼性の両方に対処できる。
手法: 関連性・証拠十分性・検索行動の判断を Jev 型の判定モデルで行い、生成モデルとは別に高速かつ較正された確率を出力する。
Representation-Space MMD for Diffusion Language Models
著者: Ilya Drobyshevskiy, Ilia Sudakov, Maksim Semenov et al.
拡散言語モデル（DLM）向けの事後学習手法で、凍結した事前学習済み DLM の特徴空間で、生成分布と参照分布の Maximum Mean Discrepancy（MMD）を最小化する（15 upvotes）。
新規性: DLM の事後学習の目的関数を、トークン単位の尤度ではなく、表現空間での分布間距離として定めた点が中核である。モデル自身の系列である事前学習済み DLM を凍結して特徴抽出器に使うことで、外部の報酬モデルに頼らずに生成分布を参照分布へ近づける。
手法: 個々のトークン位置の文脈特徴を保持し、それを使って MMD を推定し最小化する。
Data Unlearning via Inverse Distillation
著者: Aleksei Leonov, Nikita Kornilov, Zhenhe Zhang et al.
フローモデルや拡散モデルのような多段マッチングモデルは高品質な出力を生むが、推論コストが大きく、学習データに含まれる望ましくない要素を再現してしまうこともある（15 upvotes）。本研究は、蒸留とアンラーニングを同時に行う統一フレームワーク Inverse Distillation Unlearning（IDU）を提案する。
新規性: 推論高速化のための蒸留と、不要データを忘れさせるアンラーニングという、通常は別々に扱われる2つの処理を1つの枠組みにまとめた点が中核である。いずれも教師モデルから新しいモデルを作り直す工程なので、一度にまとめて行えば、それぞれを個別に実施する手間を省ける。
手法: 多段の教師モデルを少ステップの生成器へ蒸留する過程で、不要なデータ成分を同時に取り除く。
OmniReasoning: Pushing the Limits of Audio-Visual Joint Reasoning
著者: Junming Lin, Yuxuan Wang, Zhenxin Lei et al.
音声・視覚・言語を統一的に理解するオムニモーダルモデルが登場している（12 upvotes）。しかし既存のベンチマーク、学習データ、学習手法の多くはモダリティを別々に扱っており、音声と映像を組み合わせた推論の能力は十分に評価・訓練されていない。
新規性: 音声と映像の「結合」推論に焦点を絞り、評価・データ・学習手法を一体で整えた点が中核である。各モダリティを個別に評価するだけでは、両方の情報を突き合わせないと解けない問題での能力は測れない。
手法: 音声と映像の結合推論のためのベンチマーク、学習データ、学習手法をまとめて提供する。
UndoBench: Separating Task Competence from Recovery Capability in Tool-Using AI Agents
著者: Dolly Sah, Tanmay Sah, Harshul Jain et al.
ツールを使う AI エージェントは企業のソフトウェアシステムへの導入が進んでいる。しかし広く使われるベンチマークは主に正常系でのタスク完了を評価しており、基本的な計画能力と、運用中の障害から回復する能力を区別していない（7 upvotes）。本研究は、36の基本ワークフローと36の障害版からなるベンチマーク UndoBench を提案する。
新規性: エージェントの能力を「課題をこなす力」と「失敗から戻る力」に分けて測る点が中核である。正常系の完了率だけでは、障害が起きたときにエージェントが状態を元に戻せるかは分からない。基本ワークフローと障害版を対にする構成なら、2つの能力を分けて比較できる。
手法: 36の基本ワークフローと、それぞれに障害を加えた36の版を用意し、通常時の完了能力と障害からの回復能力を別々に評価する。
分野別の動向
判定モデル：Jev 型インターフェースの広がり
自由形式のテキストを生成せず、事前に定めた選択肢上の確率分布だけを返す Jev 型判定モデルをめぐる報告が5本並んだ。SearchJev（13 upvotes）は検索エージェントの判断に適用した例である。LLM-as-Jev（1 upvote）は、汎用 LLM がこの能力をそのままどこまで備えているか、またいつ・どうファインチューニングすべきかを調べる。Labels Override Definitions（0 upvotes）は、選択肢にはラベルと定義文が付くにもかかわらず、モデルがラベルの方に引きずられる問題を扱う。ネットワーク分野では、SoK: Semantic Decision Engines（2 upvotes）が139の論文ファミリーを判定インターフェース・実行経路・チェックの担い手で体系化した。そのうえで、判定エンジンが妥当な答えを返してもネットワークの期限を守れない、実行不能な行動を選ぶといった失敗を指摘する。Intent Interpretation at RIC Timescales（1 upvote）は、6G Open RAN でインテントを A1 ポリシーへ変換する処理を、Jev 型モデルと生成 LLM で比較する。
LLM基盤技術：ループ化と非自己回帰
同じブロックを繰り返し使うループ型の構成が続いた。How to Loop MoE（6 upvotes）はループ Transformer とスパース MoE を組み合わせる設計を扱う。タイトルによれば、エキスパートは平坦化し、注意層はループ間で重みを共有しない。LiFT（5 upvotes）は共有の Diffusion Transformer コアを繰り返し適用して計算量をスケールさせる生成モデルである。非自己回帰の推論では、What Matters for Latent Reasoning with Flow Matching（6 upvotes）が、連続空間で考えて答えだけを言語化する潜在推論について、有用性や多様性など潜在思考が満たすべき5つの要件を論じる。Learning to Learn a Language（4 upvotes）は、実在の言語を一切含まない合成事前分布だけで事前学習した300Mパラメータのバイトレベル Transformer（PFLM）が、重みを固定したまま文脈内で実テキストの言語を予測できるようになると報告する。
エージェント評価：完了の先を測る
LMBuild（23 upvotes）は施工可能性と機能、UndoBench（7 upvotes）は障害からの回復、Proactivity-Gym（20 upvotes）は先回りの支援がユーザーに与える負担を評価対象にしており、いずれも「タスクが終わったか」の先を測ろうとしている。Beyond Semantic Similarity（3 upvotes）は、表層的な意味の類似に頼る密ベクトル検索では複雑な検索に足りないとして、エージェント的検索の性能とコストを調べる。DeskForge（6 upvotes）は、複数のアプリやウィンドウが重なるデスクトップ画面で操作対象を特定するための密な教師データを、条件を制御しながら生成する。
身体性・ロボティクス：スキル、進捗、文脈
同じ著者グループから Video2Skill（8 upvotes）と ProgressCompass（8 upvotes）が出た。Video2Skill はストリーミングの観測から再利用可能な操作スキルを取り出す。ProgressCompass は、長いタスクで各ステップの進み具合を採点する進捗報酬モデルが、適切な文脈なしでは機能しないことを示す。RobotUse（11 upvotes）は、計算・文脈・判断をエージェントとツールのどちらに割り振るかを扱う。OpenRUA（2 upvotes）は、コーディングエージェントが既存の成熟したロボットソフトウェアスタックを使えば、ゼロショットの視覚運動ポリシーとして機能すると主張する。PerturBot（7 upvotes）は、VLA が指示ではなく手首カメラ近くの物体や見慣れた名詞に反応してしまう近道を、摂動を加えた学習で崩す。
動画・ワールドモデル：長期の一貫性
長く生成し続けても破綻しないことが共通の課題となった。In-Distribution Forcing（27 upvotes）はテスト時にドリフトを抑える。HLA-WM（2 upvotes）は、全履歴を KV キャッシュに保持するソフトマックス注意と、履歴を固定サイズの状態に圧縮する線形注意を組み合わせ、長期の動画ワールドモデルの記憶を設計する。World Editing（7 upvotes）は、変えるべきでない性質を保ちながら既存の実行可能な世界に手を入れる「世界編集」を定式化する。
安全性・プライバシー
What Gradients Add to Text Leakage（5 upvotes）は分割学習の通信を観測する立場から、サーバーが返す勾配によってテキストの漏洩がどれだけ増えるかを、トークン単位と文書単位で数える。Agentic discovery of blood biomarker（1 upvote）は、540万人超の患者を抱える Clalit Health Services の記録から得られる証拠を蒸留し、私的な記録を外部に渡さずに、フロンティア LLM エージェントに血液バイオマーカーを探索させる。
なお本日の arXiv cs.CL / cs.AI / cs.LG の RSS には新着項目が含まれておらず、本レポートは Hugging Face Daily Papers の掲載論文に基づく。