PlanBench-XL（78 upvotes）が大規模ツール生態系での長期計画評価を、OpenRathがエージェントの分断されたランタイム状態の統合を提示。DataClaw0・EnterpriseClawBench・CLI-Universeがエージェントのデータと評価基盤を整え、Grouped Query Experts・HydraHead・KaLM-Rerankerが長文脈と検索の効率化を攻めた。
注目論文
PlanBench-XL: Evaluating Long-Horizon Planning of LLM Tool-Use Agents in Large-Scale Tool Ecosystems
著者: Jiayu Liu, Qihan Lin, Cheng Qian et al.
大規模なツール生態系の中で、LLMエージェントの長期的な計画能力を評価するベンチマーク（78 upvotes）。実世界のタスクでは、関連ツールの発見・暗黙的なサブゴールの推論・動的環境への適応を長い時間軸にわたって行う必要があるが、既存ベンチマークはツールの可視性が限られた状況での計画をほとんど評価してこなかった。
新規性: ツールが検索によって限定的にしか見えない「retrieval-limited」な状況下での長期計画を正面から評価可能にした点が貢献である。多数のツールが存在する現実的な生態系を再現し、ツール探索と計画立案を一体で測定する。
手法: 大規模ツール群の中からタスクに必要なツールを発見させ、暗黙のサブゴールを推論しながら長期計画を立てさせるタスク群を設計する。ツールの可視性を制限することで、検索と計画を切り離さずに評価する枠組みを構築する。
OpenRath: Session-Centered Runtime State for Agent Systems
著者: Fukang Wen, Zhijie Wang, Ruilin Xu
エージェントシステムの分断されたランタイム状態を、セッション中心に統合するプログラミングフレームワーク（68 upvotes）。現代のエージェントシステムでは、トランスクリプト・ツール効果・メモリイベント・ワークスペース配置・分岐の来歴・リプレイ証跡が個別に記録され、検査や再現が困難になっている。
新規性: 散在しがちなランタイム状態を、セッションを軸に一元的に扱うことで検査・再現性を高める点が新しい。PyTorchライクなプログラミングモデルを採用し、状態管理を明示的かつ構造的に記述できるようにする。
手法: セッションを中心単位として、トランスクリプト・ツール効果・メモリ・分岐来歴・リプレイ証跡を統合的に管理する。PyTorch風のインターフェースで状態を扱い、エージェントの実行を検査・再現しやすくする。
DataClaw0: Agentic Tailoring Multimodal Data from Raw Streams
著者: Cong Wan, Zeyu Guo, Zijian Cai et al.
生の非構造化マルチモーダルストリームから、高品質なデータをエージェント的に整形するフレームワーク（65 upvotes）。大量の非構造化マルチモーダルストリームは「データエントロピー」が高く、人間の知識獲得と高品質なAIポストトレーニングの双方を阻害している。
新規性: ヒューリスティックなルールや汎用VLMに依存する受動的なアノテーション手法の限界を超え、エージェントが能動的にデータを整形・選別する点が新しい。コストが高く単調になりがちな従来の注釈付けを、エージェント駆動で置き換える。
手法: エージェントが生のマルチモーダルストリームを能動的に処理し、高品質な学習データへと整形する。受動的なルールベース注釈に代えて、データの価値を引き出す能動的なテーラリングを行う。
EnterpriseClawBench: Benchmarking Agents from Real Workplace Sessions
著者: Jincheng Zhong, Weizhi Wang, Che Jiang et al.
実際の職場セッションから構築した、エンタープライズエージェント評価ベンチマーク（56 upvotes）。エンタープライズエージェントはワークスペース内で多様なファイルを読み、ツールを呼び出し、業務成果物を提供するが、こうした現実的な業務遂行能力を測る基盤は乏しかった。
新規性: 合成タスクではなく、実在の職場セッションのアーカイブから構築した点が新しい。異種ファイルの読み取り・ツール呼び出し・業務成果物の提供といった、実デプロイに近い能力を評価可能にする。
手法: 大規模な職場セッションのアーカイブを起点に、現実の業務フローを反映したエージェント評価タスクを構築する。ワークスペース内での多様な操作を伴うタスクで、エンタープライズエージェントの実用性を測定する。
Grouped Query Experts: Mixture-of-Experts on GQA Self-Attention
著者: Vishesh Tripathi, Abhay Kumar
GQA（Grouped Query Attention）自己注意にMixture-of-Expertsを適用し、長文脈での注意コストを削減する研究（42 upvotes）。自己注意はTransformer性能の中核だが、トークン間のペアワイズ相互作用が系列長に対して二乗で増大するため、長文脈では最も高コストな部分となる。
新規性: 標準的な密な注意がすべてのトークンに同一の注意ヘッド集合を適用する点に着目し、GQAにMoEの考え方を持ち込んでヘッド適用を専門化する点が新しい。長文脈処理における注意の計算負荷を構造的に削減する。
手法: GQAの構造の上にMixture-of-Expertsを導入し、トークンごとに適切な注意ヘッド群を選択的に適用する。全トークンへの一律な注意適用を避け、長系列でのコストを抑えながら表現力を保つ。
KaLM-Reranker-V1: Fast but Not Late Interaction for Compressed Document Reranking
著者: Xinping Zhao, Jiaxin Xu, Ziqi Dai et al.
クエリと文書の計算を分離し、圧縮文書のリランキングを高効率化するリランカー（39 upvotes）。検索システムが大規模化するにつれ高品質なリランキングの重要性が増すが、既存のエンコーダ系・デコーダ系リランカーはクエリと文書を同時にエンコードするため計算が密結合し、デプロイの効率と柔軟性を損なってきた。
新規性: クエリと文書の符号化を切り離しつつ、いわゆるレイトインタラクションには頼らない「Fast but Not Late」な設計を採る点が新しい。計算の密結合を解消し、圧縮文書に対する効率的なリランキングを実現する。
手法: クエリと文書を別々に処理することで計算を分離し、デプロイ効率と柔軟性を高める。レイトインタラクション型の重い相互作用を避けつつ、圧縮された文書表現に対して高速なリランキングを行う。
World Action Models: A Survey
著者: Qiuhong Shen, Shihua Zhang, Yue Liao et al.
動画生成や言語・視覚バックボーンに基づく具現予測行動モデル（World Action Models, WAM）を体系化したサーベイ（37 upvotes）。WAMは将来の予測を行動に利用可能にする具現的な予測行動モデルであり、近年は大規模動画生成モデルを転用する系統と、動画生成コアを持たず言語・視覚バックボーンに依存する系統が並行して急速に拡大している。
新規性: 急拡大するWAM研究を、動画生成ベースと言語・視覚バックボーンベースという観点から整理・俯瞰した点が貢献である。乱立する手法群を統一的な視座でまとめ、設計上の分岐点を明らかにする。
手法: WAMを構成要素・バックボーン・予測対象の観点から分類し、動画生成中心の手法と非動画生成手法を対比する。各系統の長所と課題を整理し、今後の研究の見取り図を提供する。
CLI-Universe: Towards Verifiable Task Synthesis Engine for Terminal Agents
著者: Zhanbo Hua, Yifan Yao, Weihao Xie et al.
ターミナルエージェント向けに、検証可能なタスクを合成するエンジン（27 upvotes）。近年のLLMベースのターミナルエージェントは有望な能力を示すが、高品質で実行可能な訓練データの不足が大きなボトルネックとなっている。既存の合成パイプラインは表層的な成果物を後付けでタスク化するため、曖昧な指示を生みがちだった。
新規性: 表層的なアーティファクトの retrofit に依存せず、検証可能なタスクを合成する点が新しい。実行可能性を担保したタスク生成により、ターミナルエージェントの訓練データ不足を解消する。
手法: タスクの実行可能性と検証可能性を確保する合成エンジンを構築し、ターミナル環境で確かめられるタスク群を生成する。曖昧な指示を避け、エージェント訓練に適した高品質データを大規模に供給する。
BioMatrix: Towards a Comprehensive Biological Foundation Model Spanning the Modality Matrix of Sequences, Structures, and Language
著者: Qizhi Pei, Zhimeng Zhou, Yi Duan et al.
配列・構造・自然言語を単一のデコーダ専用アーキテクチャで統合する、生物学マルチモーダル基盤モデル（19 upvotes）。既存の生物学基盤モデルは、ネイティブなマルチモーダル性と広範なエンティティ被覆を別々に追求しており、両者を同時に満たすモデルは乏しかった。
新規性: 分子とタンパク質の双方について、配列・構造・言語を単一のデコーダ専用モデルでネイティブに統合した最初の試みである点が貢献である。モダリティの統合とエンティティ被覆の広さを一つのアーキテクチャで両立させる。
手法: デコーダ専用アーキテクチャの中に、分子・タンパク質の配列と構造、そして自然言語を統合的に取り込む。複数モダリティを単一モデルで扱うことで、生物学領域の横断的な理解と生成を可能にする。
HydraHead: From Head-Level Functional Heterogeneity to Specialized Attention Hybridization
著者: Zhentao Tan, Wei Chen, Jingyi Shen et al.
注意ヘッド単位の機能的異質性に基づき、特化型の注意ハイブリッド化で長文脈処理を効率化する研究（17 upvotes）。注意の二乗計算量は長文脈処理の重大なボトルネックであり、ハイブリッド注意設計への関心が高まっているが、多くのオープンソースハイブリッドモデルはレイヤ単位の戦略を採り、線形注意とフル注意の統合に固有の難しさが指摘されてきた。
新規性: レイヤ単位ではなくヘッド単位の機能的異質性に着目し、ヘッドごとに適した注意機構を割り当てる「特化型ハイブリッド化」を提示した点が新しい。線形注意とフル注意の統合の難しさをヘッドレベルで解きほぐす。
手法: 各注意ヘッドの機能的特性を分析し、線形注意とフル注意をヘッド単位で使い分けるハイブリッド構造を構築する。レイヤ一律の割り当てを避けることで、長文脈処理の効率と性能を両立させる。
分野別の動向
エージェント計画・状態管理
本日はLLMエージェントの計画と状態管理が研究の中心を占めた。PlanBench-XL（78 upvotes）はツールの可視性が限られた大規模生態系での長期計画を評価可能にし、ツール探索と計画立案を切り離さずに測る枠組みを提示した。OpenRath（68 upvotes）はトランスクリプト・ツール効果・メモリ・分岐来歴といった分断されたランタイム状態をセッション中心に統合し、エージェント実行の検査・再現性を高めた。前回のメモリ「統治・共有」への関心に続き、本日は計画の評価と状態の一元管理という、エージェントを運用可能にする基盤側へと焦点が移っている。
エージェントのデータ・評価基盤
DataClaw0（65 upvotes）は生のマルチモーダルストリームをエージェント的に整形して高品質な訓練データを生み出し、CLI-Universe（27 upvotes）はターミナルエージェント向けに検証可能なタスクを合成して訓練データ不足を解消する。EnterpriseClawBench（56 upvotes）は実在の職場セッションからエンタープライズエージェントのベンチマークを構築した。データ生成と評価の双方で、合成や後付けではなく「実行可能性・検証可能性・現実性」を担保する方向が際立っている。
長文脈注意・検索の効率化
Grouped Query Experts（42 upvotes）はGQAにMixture-of-Expertsを導入してトークンごとに注意ヘッドを専門化し、HydraHead（17 upvotes）はヘッド単位の機能的異質性に基づき線形注意とフル注意をハイブリッド化した。いずれも二乗計算量という長文脈の根本的ボトルネックに、注意機構の構造的な特化で挑む。KaLM-Reranker-V1（39 upvotes）はクエリと文書の計算を分離して圧縮文書のリランキングを高速化し、検索パイプライン側の効率化を進めた。基盤側ではモデル規模拡大よりも、注意と検索の計算構造そのものを見直す効率化が主流になりつつある。
マルチモーダル基盤・サーベイ
BioMatrix（19 upvotes）は分子・タンパク質の配列・構造・言語を単一のデコーダ専用モデルで統合し、生物学領域でネイティブなマルチモーダル基盤モデルを目指した。World Action Models: A Survey（37 upvotes）は急拡大する具現予測行動モデルを動画生成ベースと言語・視覚バックボーンベースの観点で体系化した。新規アーキテクチャの提案と、乱立する手法群を俯瞰するサーベイが並び、特定ドメインの基盤モデル化と研究領域の整理が同時に進んでいる。