エージェントが「いつ行動を止めるか」を測る研究が最高注目を集め、35Bで兆パラメータ級を狙う水平スケーリングやターミナル利用ベンチが続いた。KVキャッシュ圧縮や非同期パイプライン、オンポリシー蒸留の陳腐化耐性など効率化基盤も厚い一日。
注目論文
Agentic Abstention: Do Agents Know When to Stop Instead of Act?
著者: Han Luo, Bingbing Wen, Lucy Lu Wang
LLMエージェントは複数ターンにわたり検索・ブラウジング・ターミナル操作でユーザー目標を達成するが、すべての目標が明確に指定され達成可能なわけではない（120 upvotes）。本研究は不確実性下でエージェントがいつ行動を止めるべきかを「Agentic Abstention」として定義し、13のLLMエージェントと2つのスキャフォールドを28,000以上のタスクで評価した。
新規性: 単一ターンの「回答するか棄権するか」ではなく、回答・棄権・追加情報収集を各ターンで選ぶ逐次的判断問題として棄権を定式化した点が新しい。指示が一見実行可能に見えて環境が不可能と判明するタスクで、特に課題が大きいことを示した。
手法: 大規模モデルや推論能力が必ずしも適時の棄権を改善せず、むしろ悪化させる場合があると報告。対話軌跡を再利用可能な停止ルールへ蒸留する文脈エンジニアリング手法CONVOLVEを導入し、WebShopでLlama-3.3-70Bの適時棄権再現率を26.7から57.4へ改善した。
Scaling the Horizon, Not the Parameters: Reaching Trillion-Parameter Performance with a 35B Agent
著者: Lei Bai, Zongsheng Cao, Yang Chen et al.
35BのMixture-of-Expertsエージェントモデル「Agents-A1」が、パラメータではなくエージェントの行動水平方向（horizon）をスケールすることで兆パラメータ級の性能に到達したと報告する（67 upvotes）。
新規性: モデル規模の拡大ではなく、長期軌跡のスケーリングと異種のエージェント能力のスケーリングという2つの観点から「エージェント水平スケーリング」を体系的に検証した点が貢献である。
手法: 長期にわたる行動軌跡と多様なエージェント能力を同時に拡張するMoE構成を用い、35Bという比較的小さなパラメータ規模でありながら兆パラメータ級モデルに匹敵する性能を達成する。
TUA-Bench: A Benchmark for General-Purpose Terminal-Use Agents
著者: Shoufa Chen, Luyuan Wang, Xuan Yang et al.
LLMとハーネスフレームワークの進歩により、ターミナル上で動作するエージェントはコーディングを超えた幅広いコンピュータ利用タスクをこなせるようになりつつある（44 upvotes）。しかし既存ベンチマークは汎用的なターミナル利用エージェントを十分に評価できていない。
新規性: コーディングに限定されない、汎用ターミナル利用エージェントを評価する初のベンチマークを提示した点が貢献である。
手法: ターミナル環境で実行される多様なコンピュータ利用タスクを収集し、エージェントの一般的な操作能力を体系的に測定することで、既存の評価が見落としていた汎用性の側面を明らかにする。
ReFreeKV: Towards Threshold-Free KV Cache Compression
著者: Xuanfan Ni, Liyan Xu, Chenyang Lyu et al.
LLM推論のメモリ消費を削減するKVキャッシュ枝刈り手法は多数提案されてきたが、多くは入力・ドメイン依存の閾値設定という見過ごされがちな条件に依存している（43 upvotes）。この閾値がデータセットごとに必要となる点が実運用上の課題である。
新規性: ドメイン固有の閾値設定に頼らず、入力非依存に無損失のメモリ削減を目指すKVキャッシュ圧縮を提案した点が新しい。
手法: KVキャッシュ予算を決める閾値への依存を取り除く仕組みを導入し、多様なデータセットにわたって安定した無損失メモリ削減を実現することで、KVキャッシュ圧縮の汎用性と実用性を高める。
Beyond IID: How General Are Tabular Foundation Models, Really?
著者: Lennart Purucker, Andrej Tschalzev, Nick Erickson et al.
表形式データに対する予測的機械学習の基盤モデルは学術・産業の双方で急速に注目を集め、分野横断で多様なデータセット・タスク上で評価が進んでいる（36 upvotes）。しかしこうした評価はタスク・分野ごとに断片化している。
新規性: 表形式基盤モデルの汎化性を分野横断で再検証し、従来のIID（独立同分布）評価が見落としている一般性の限界を問い直した点が貢献である。
手法: 多様な分野・タスクのデータセットを用いて表形式基盤モデルを横断的に評価し、IID設定では捉えきれない汎化の限界を体系的に明らかにすることで、基盤モデルの「一般性」の実態を検証する。
AsyncOPD: How Stale Can On-Policy Distillation Be?
著者: Wonjun Kang, Kevin Galim, Seunghyuk Oh et al.
オンポリシー蒸留（OPD）は生徒モデルが自身のロールアウト上で教師フィードバックを受けて学習する手法で、LLMの事後学習でますます重要になっている（23 upvotes）。しかし強化学習と同様、ロールアウトが学習時間を支配するオンポリシー特有のシステムボトルネックを抱える。
新規性: 非同期化によってロールアウトのボトルネックを緩和しつつ、勾配の陳腐化（staleness）がどこまで許容できるかを定量化した点が新しい。
手法: ロールアウト生成と学習を非同期に行うことで生じる勾配の陳腐化を分析し、性能を損なわずに許容できる陳腐度の範囲を明らかにすることで、OPDの学習効率を高める。
Video-MME-Logical: A Controlled Diagnostic Benchmark for Video Temporal-Logical Reasoning
著者: Hohin Kwan, Hongyu Li, Ray Zhang et al.
マルチモーダルLLM（MLLM）への関心の高まりは、これらのモデルが個々のフレームで物体や事象を認識するだけでなく、動的な視覚的証拠の上で推論できるのかという中心的問いを提起する（23 upvotes）。本研究はこれを「動画時間的・論理的推論」と呼ぶ。
新規性: フレーム単位の認識能力と、時間をまたぐ動的証拠上の論理的推論能力を分離して測る、統制された診断的ベンチマークを構築した点が貢献である。
手法: 時間的・論理的推論を要する動画タスクを統制的に設計し、モデルが情報を保持・追跡しながら動的証拠上で推論する能力を切り分けて評価することで、単なるフレーム認識との違いを診断する。
One-Step Gradient Delay is Not a Barrier for Large-Scale Asynchronous Pipeline Parallel LLM Pretraining
著者: Philip Zmushko, Egor Petrov, Nursultan Abdullaev et al.
現代の大規模LLM事前学習はパイプライン並列の活用で恩恵を受けるが、同期実装ではパイプラインバブル中にGPUがアイドルとなり計算資源が無駄になる（19 upvotes）。非同期パイプライン並列はバブルを排除してスループットを最大化するが、勾配の陳腐化という代償を伴う。
新規性: 非同期パイプライン並列でGPUバブルを排しつつ、1ステップの勾配遅延が大規模事前学習の障壁とならないことを示した点が新しい。
手法: 同期実装で生じるパイプラインバブルを非同期化で取り除きながら、1ステップ分の勾配遅延が学習に及ぼす影響を検証し、スループット最大化と学習の安定性を両立できることを実証する。
SWE-Together: Evaluating Coding Agents in Interactive User Sessions
著者: Yifan Wu, Zhuokai Zhao, Songlin Li et al.
多くのコーディングエージェントのベンチマークは静的であり、エージェントは完全なタスク記述を最初に受け取り、最終コードのみで評価される（11 upvotes）。しかし現実のコーディング支援は対話的で、ユーザーは複数ターンにわたり目標を明確化し、制約を追加し、誤りを修正する。
新規性: 静的タスクではなく、ユーザーが目標を明確化・修正していく対話的セッションでコーディングエージェントを評価するマルチターン設定を導入した点が貢献である。
手法: ユーザーとエージェントが複数ターンで相互作用しながらタスクを進める対話的な評価環境を構築し、最終コードだけでなく対話を通じた目標達成過程を評価することで、現実的なコーディング支援能力を測る。
Interleaved Speech Language Models Latently Work In Text
著者: Talia Sternberg, Gallil Maimon, Yossi Adi
音声言語モデル（SLM）は広く研究され、テキストデータや事前学習済みテキストLMを取り込むパラダイムが主流である（10 upvotes）。中でも音声トークンとテキストトークンを交互に並べた系列で学習する音声テキストインターリーブが有力な手法となっている。
新規性: 音声テキスト交互学習を経た音声LMが、内部的にはテキスト上で動作していることを明らかにした点が新しい。
手法: インターリーブ学習されたSLMの内部表現を分析し、音声のみの能力向上を狙う交互学習が実際にはモデルを潜在的にテキスト空間で動作させていることを示すことで、音声LMの内部メカニズムの理解を深める。
分野別の動向
エージェントの自律性と評価
本日はエージェントの自律的判断と評価が主役となった。Agentic Abstention（120 upvotes）はエージェントが「いつ行動を止めるか」を逐次的判断問題として定式化し、大規模・高能力モデルほど適時の棄権が苦手になりうると示す。Scaling the Horizon（67 upvotes）はパラメータではなく行動水平方向をスケールして35Bで兆級性能に迫り、TUA-Bench（44 upvotes）はコーディングを超えた汎用ターミナル利用エージェントを初めて体系的に測る。能力の拡張と「止まる・棄権する」判断の両面からエージェントを問う流れが鮮明だ。
学習システムの効率化
大規模学習・推論を支える基盤研究も厚い。AsyncOPD（23 upvotes）は非同期オンポリシー蒸留で勾配の陳腐化の許容度を定量化し、One-Step Gradient Delay（19 upvotes）は非同期パイプライン並列でバブルを排しつつ1ステップ遅延が障壁にならないと示す。ReFreeKV（43 upvotes）は閾値依存を取り除いたKVキャッシュ圧縮を提案する。前回に続き、陳腐化・非同期・メモリ圧縮といった実運用の制約に効く効率化が着実に進んでいる。
評価・ベンチマークの精緻化
モデル能力を切り分けて測る診断的評価が目立った。Video-MME-Logical（23 upvotes）はフレーム認識と動的証拠上の論理推論を分離し、Beyond IID（36 upvotes）は表形式基盤モデルの汎化性をIID評価の外で問い直す。SWE-Together（11 upvotes）は静的タスクではなく対話的セッションでコーディングエージェントを評価する。最終出力スコアが覆い隠す能力差を、設定の統制と相互作用の導入で露わにする方向が共通している。
音声・マルチモーダルの内部理解
モダリティをまたぐ内部メカニズムの解明も進む。Interleaved Speech Language Models（10 upvotes）は音声テキスト交互学習のSLMが内部的にテキスト上で動作していることを示し、音声LMの学習が実質的にテキスト空間に依存している実態を明らかにする。表面的な性能向上の裏にある表現の所在を問う点で、評価精緻化の流れと響き合っている。