入力過多な長期エージェント負荷を背景に、DeepSeek-V4.1-FlashがKVキャッシュ圧縮の限界を押し146 upvotesで最上位に立った。同時にCodeMidasとGrounded Skill Synthesisがともに86 upvotesで並び、エージェントの学習環境とスキルを「コード自体」から起こす方向が一日の軸を形成している。
注目論文
DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression
著者: DeepSeek-AI, Anyi Xu, B. Li et al.
長期地平のエージェントが広く使われるようになったことで、モデルの負荷は入力偏重（input-heavy）へと傾いている（146 upvotes）。長文脈計算のコスト削減はこれまでの研究で大きく進んだが、prefill は依然として計算的に高価であり、大きな KV キャッシュが HBM と SSD の容量およびデータ転送を圧迫し続けていると本研究は指摘する。
新規性: 長文脈の負担を「生成側の計算」ではなく prefill と KV キャッシュという入力側の資源問題として名指しした点が中核である。長文脈対応は attention の計算量を下げる工夫として語られるのが通例である——だがエージェントが何十回もツールを呼び観測を積み上げる運用では、入力そのものが主要な負荷になり、キャッシュがメモリ階層をまたいで容量と帯域を食う。KV キャッシュ圧縮を限界まで押す構成は、その転換した負荷分布に合わせるためのものである。
手法: 入力偏重な負荷を前提に KV キャッシュ圧縮を推し進め、prefill の計算コストと、HBM・SSD の容量およびデータ転送に対するキャッシュの圧迫を同時に緩和する。
IntBMoE: Integrating Block-Level Conditioning into Expert Composition for Full-Participation Mixture-of-Experts
著者: Ran Cheng, Longfei Xu, Zheng Liu et al.
Mixture-of-Experts（MoE）は容量を拡張するが、既存の設計では三つの量を独立に設定できない（90 upvotes）。単一のトークンについて、参加（participation）はいくつのエキスパートが出力に知識を寄与するか、実行（execution）は実際に計算されるのが何個か（計算コスト）、実体化（materialization）はエキスパート規模の重みがいくつ具現化されるかを指し、本研究はこれらをブロック単位の条件付けによって切り離す。
新規性: MoE の設計自由度をルーティング戦略の問題から「参加・実行・実体化の三量が結合している」という構造的制約として定式化した点が中核である。MoE の議論は top-k の選び方や負荷分散として進むのが通例である——だが k を決めると同時に寄与するエキスパート数も計算量も実体化される重み量も一括で決まってしまい、容量と計算コストを別々に動かす余地がない。三量を分離して名づける構成は、その結合を設計対象として扱えるようにするためのものである。
手法: エキスパート合成にブロックレベルの条件付けを導入し、全参加（full-participation）型の MoE において参加・実行・実体化を独立に指定できるようにする。
CodeMidas: Scaling Agentic Coding RL Environments from Code Itself
著者: Bowen Ye, Lei Li, Shicheng Li et al.
強化学習で有能なコーディングエージェントを訓練するには、信頼できる検証器を備えた多様なタスクが必要である（86 upvotes）。オープンソースのコードベースはそうしたタスクの豊かな供給源だが、既存手法は issue やコミットといった開発の成果物に依拠するのが通例で、構成できるタスクの範囲が制限されると本研究は指摘する。
新規性: RL 環境の供給源を開発履歴からコード本体へ移した点が中核である。コーディング RL のタスクは「issue と、それを閉じたコミット」の対から作られるのが通例である——だが issue が書かれた作業だけがタスクになるなら、リポジトリに存在する機能の大半は訓練に現れず、検証器も既存テストの有無に縛られる。コード自体からタスクと検証器を起こす構成は、その被覆の偏りを外すためのものである。
手法: 開発成果物に依存せず、オープンソースのコード本体からエージェント型コーディング RL のタスクと検証器を大規模に生成し、訓練環境を拡張する。
Grounded Skill Synthesis from Code at Scale for Agentic Intelligence
著者: Yongqi Tong, Pan Wang, Hang Wang et al.
再利用可能なスキルはエージェントに転移可能な手続き的知識を与えるため、その大規模な獲得は、エージェントを既存の経験の外へ広げるうえで本質的である（86 upvotes）。既存手法には二つの限界があり、軌跡に基づく合成は特定の環境との相互作用を必要とし、文書から導出したスキルは接地を欠きうると本研究は指摘する。
新規性: スキルの供給源を「環境との相互作用」と「文書」の二択から外し、コードへの接地に置いた点が中核である。スキル獲得は実際に動かして軌跡を集めるか、マニュアルから手順を抽出するかのいずれかで進むのが通例である——だが前者は環境ごとにスケールが止まり、後者は記述が実際の挙動と対応している保証がない。コードに接地させる構成は、実行可能性を保ちながら規模を得るためのものである。
手法: 特定環境での軌跡収集も文書からの抽出も前提とせず、コードに接地した再利用可能スキルを大規模に合成し、エージェントの手続き的知識として供給する。
EvoOntology: A Self-Evolving Ontology Layer for Data Agents
著者: Meiduo Chong, Shaolei Zhang, Ju Fan, Xiaoyong Du
データエージェントは、テーブル・ファイル・データベースを含む異種データに対して自然言語の指示を遂行することを目指す（68 upvotes）。しかしデータエージェントは困難な「エージェント–データ間ギャップ」に直面し、異種データはエージェントの外部に存在する一方、エージェントがそれにアクセスできるのは列名やファイルパスといった限られた手がかり越しでしかないと本研究は指摘する。
新規性: データエージェントの失敗を推論能力の不足ではなく、データとの間にある表象の隔たりとして位置づけた点が中核である。この領域の改善は SQL 生成やツール呼び出しの精度として測られるのが通例である——だが列名やパスだけが窓口である限り、テーブルが何を意味するかという知識はスキーマの外に置き去りにされ、指示との対応づけは推測に頼らざるを得ない。自己進化するオントロジー層を挟む構成は、その窓口そのものを育てるためのものである。
手法: 異種データとエージェントの間に自己進化するオントロジー層を設け、列名やファイルパスに限られたアクセス手段を補う表象を運用中に更新していく。
RecreationWorld: Scalable and Verifiable Environments for Hybrid Computer-Use Agents
著者: Shuai Bai, Jiayong Deng, Yikun Fu et al.
コンピュータ操作エージェント（CUA）は、グラフィカルな操作と、コードおよびコマンドラインを通じたソフトウェア開発という二つの別々の線に沿って発展してきた（60 upvotes）。現実のデジタル作業はその両方を必要とし、しかも順に積み重ねるのではなく交互に織り込む形で要求されると本研究は指摘し、インタフェースを探索すべき時機を自律的に決めるハイブリッド CUA を扱う。
新規性: GUI 操作とコード実行を別系統の能力として扱う前提を崩し、両者の交替それ自体を環境設計の対象にした点が中核である。CUA の評価は画面操作のベンチマークかコーディングのベンチマークのいずれかで進むのが通例である——だが実務では設定画面を見てから CLI に落ち、結果を再び画面で確かめる往復が普通で、どちらか一方の環境ではその判断が測れない。検証可能なハイブリッド環境を用意する構成は、その往復を訓練と評価の対象に含めるためのものである。
手法: GUI 操作とコード／CLI 操作を交互に行うハイブリッド CUA 向けに、スケール可能かつ検証可能な環境群を構築し、エージェントがインタフェースを探索する時機を自律的に決める設定で評価する。
Verifiable Social Reasoning for LLM Assistants
著者: Amir Taubenfeld, Zorik Gekhman, Avigail Grinstein-Dabush et al.
LLM アシスタントは日常の社会的な助言に広く使われているが、そうした相談設定における社会的推論の評価は困難なままである（51 upvotes）。理由は二つあり、（i）アシスタントが主観的なユーザーの語りから社会的状況を学ぶという設定を要すること、（ii）他者の意図といった社会的性質が検証しにくいことだと本研究は整理する。
新規性: 社会的推論の評価を「正解のある心理テスト」から、主観的な語りを介した相談という実際の使用形態へ移した点が中核である。この種の能力は心の理論のベンチマークで測られるのが通例である——だが実際の相談では状況の記述そのものが当事者の視点で偏っており、アシスタントは偏った語りから他者の立場を推し量ることになる。検証可能性を設計に組み込む構成は、その曖昧な対象に測定の足場を与えるためのものである。
手法: 主観的なユーザーの語りから社会的状況を学ぶ相談設定を構成し、他者の意図などの社会的性質について、LLM アシスタントの推論を検証可能な形で評価する。
Self-Evolving Search Index
著者: Sangam Lee, Wonjae Lee, Sunghwan Kim et al.
LLM エージェントが多様な情報要求を伴う複雑なタスクに取り組むにつれ、情報検索の重要性は増している（47 upvotes）。検索は各文書をインデックスキーで表すインデックスに依拠するため、検索品質はそのキーが文書に含まれる知識をどれだけ有効に露出できるかに大きく依存すると本研究は指摘する。
新規性: 検索性能の改善対象をクエリ側やランキング側ではなくインデックスキーの生成に置き、しかもそれを固定資産ではなく進化する対象として扱った点が中核である。検索の強化はクエリ書き換えや再ランキングとして進むのが通例である——だがキーが文書の知識を取りこぼしていれば、どれだけクエリを整えても到達できない文書が残る。インデックス自体を自己進化させる構成は、その到達不能を上流で解くためのものである。
手法: 文書の知識露出が不十分なインデックスキーに対し、インデックス自体を自己進化させる仕組みを構成し、LLM エージェントの多様な情報要求に対する検索品質を改善する。
Video DeltaNet: A Video-Native Hybrid Attention for Livestream Video Generation
著者: Haocheng Xi, Yiming Xie, Hexu Zhao et al.
動画拡散モデルはデノイジングの過程で長い時空間トークン列を繰り返し処理するため、注意が主要な計算ボトルネックとなる（34 upvotes）。線形注意は魅力的な代替であり近年の大規模言語モデルで広く採用されているが、それを動画モデルへ直接適用するには問題があると本研究は指摘する。
新規性: 線形注意の移植を計算量の置き換えではなく、映像という様相に固有の設計問題として立て直した点が中核である。効率的な注意機構は言語モデルで検証されたものを他の様相へ持ち込む形で普及するのが通例である——だが動画のトークン列は時間と空間の二重の構造を持ち、系列を一様に圧縮する定式化はその構造を平らに潰してしまう。映像ネイティブなハイブリッド注意という構成は、その潰れを避けながら計算を落とすためのものである。
手法: 線形注意を動画生成へそのまま持ち込む際の劣化を避ける映像ネイティブなハイブリッド注意を設計し、ライブ配信（livestream）向けの動画生成に適用する。
OmniVChat: Synthesizing, Benchmarking, and Training for Native Audio-Visual Dialogue
著者: Haolin He, Yunfei Chu, Qi Chen et al.
本研究は OmniVChat（Omni Video Chat）を、ユーザーとオムニモデルの間のネイティブな音響視覚対話というタスクとして定義する（30 upvotes）。OmniVChat においてオムニモデルはユーザーからの音声と映像を直接かつ同時に受け取ってテキストを返し、ユーザーの問いかけは別のテキスト入力を介さず音声と映像の内に埋め込まれている。
新規性: 音声・映像対話からテキスト入力という中間段を取り除き、それをタスク定義の水準で明示した点が中核である。マルチモーダル対話は音声を書き起こしてテキストの問いとして扱う構成で実現されるのが通例である——だが問いかけが音声と映像の内に埋め込まれている状況では、書き起こしの時点で抑揚や指差しといった手がかりが落ち、何が問われているかの特定自体が変質する。ネイティブな受理を要件に据える構成は、その情報落ちを評価と訓練の前提から排すためのものである。
手法: ネイティブな音響視覚対話タスクを定義し、そのデータ合成・ベンチマーク・訓練を一体として構成する。モデルは分離したテキスト入力を持たず、音声と映像を同時に受理してテキストで応答する。
分野別の動向
推論効率とメモリ階層
DeepSeek-V4.1-Flash が prefill と KV キャッシュを入力側の資源問題として名指ししたのに対し、周辺の論文は同じ帯を別の断面から押している。RBS-Attention は、ブロック重心が多くの無関係トークンの中に高関連トークンを隠してしまう失敗を「平均希薄化（mean dilution）」と名づけ、重心ベース枝と最大キーブロック半径による救済枝を独立に閾値処理することで、通常のブロック疎 FlashAttention 実行を保ったまま 128K で end-to-end 5.97 倍の TTFT 短縮を報告する。Elastic Threshold Attention は閾値をクエリ表現から動的に予測し、学習時に閾値未満のロジットをゼロへ乗算的に抑制することで表現崩壊を避け、その副産物として初期トークンへの局所的な attention sink が消えると報告する。MoME は、MoE に続く疎容量機構として条件付きメモリ（トークン索引付き埋め込み表）を取り上げ、決定論的な取得に依る既存手法を文脈依存の疎ルックアップへ広げる。IntBMoE の三量分離と合わせると、容量・計算・メモリを別々に動かす設計自由度をどこに作るかという問いが、この帯の共通形になっている。
エージェントのスキル獲得と環境構築
CodeMidas と Grounded Skill Synthesis がともに 86 upvotes で並び、いずれも供給源をコード自体に取ることで軌跡収集と文書抽出の制約を外そうとしている。GraphSkillEvo は、既存のスキル最適化が構造を持たない形でスキルを表現している点を問題にして、グラフ構造化されたスキルの進化的最適化を構成する。Designer-RSI は、信頼できるプログラム的オラクルが存在しないグラフィックデザインを長期地平のエージェントタスクとして扱い、凍結したフロンティアモデルの上でユーザートラフィックから手続き記憶を育てる継続適応の枠組みを提示する。DENSE は、後付けの成果ラベルなしに実行軌跡から局所的な進捗・回復・未達要件の証拠を取り出し、入れ子のショートカット木へ蒸留して再利用する。RecreationWorld と MintAct が環境とモデルの両側からハイブリッドな操作能力に寄せていることも含め、スキルを「訓練して固めるもの」から「運用中に育て検証するもの」へ移す動きが揃っている。
ベンチマークの再設計
一日を通じて、平均的な合格率が覆い隠す失敗を露出させる設計が目立つ。GameASG-Bench は、生成前に評価インタフェース仕様を宣言して合法な初期状況・行動・不変条件を固定する設計を取り、L2 チェックの平均通過率が最大 93.2% に達する一方で、全必須チェックを満たす厳格なタスク成功率は 55.3% にとどまることを示す。BI-Agent と BI-Bench は、テーブル特定・変換・結合という準備工程まで含めた端から端までの BI を初めて体系的に測り、フロンティアモデルでも 50% を下回ると報告する。CADWorld は永続的で構造化された成果物を伴う専門的な工学ワークフロー、PACT は採用・医療・金融に配備される企業 LLM エージェントのシステム文脈への規則遵守、APort Vault は公開 CTF で人間が書いた 4,371 件の攻撃を再生する支払い認可を、それぞれ既存ベンチマークの空白として取る。CogGym は 100 本の論文から 258 の認知実験を課題非依存の記述言語へ標準化し、50 のモデルを人間の応答と突き合わせて、常識推論での改善が数学やコーディングの形式的推論より明らかに遅いこと、最良モデルでも人間の分割半信頼性（$R^2=0.93$）に遠く及ばない（テキストで $R^2=0.59$）ことを示す。
安全性・信頼性と自己参照の危険
Verifiable Social Reasoning が相談設定の検証可能性を扱う一方、When AI Reviews Train AI Reviewers はモデル生成のレビューが将来の訓練コーパスへ入る再帰を一段だけ制御条件下で再現し、合成レビューの混入が評点分布を圧縮して同一論文内・コーパス全体の意味的多様性を減らす現象を「科学的判断の崩壊（scientific-judgment collapse）」と名づける。MME-Safety は、単一様相のフィルタを容易に回避する脆弱性に対し、リスク状況・有害度・様相別の隠蔽度を四次元で注釈した評価を 17 の MLLM に適用し、Chain-of-Thought 推論に伴う安全性への含意を掘る。MLLMs Hallucinate when Information Distribution Drifts in Synergy Heads は、attention 重みのような間接的信号に依る既存の緩和策が実際の情報移動を反映していないと指摘し、Detecting Hallucination in LLMs は attention グラフの Forman-Ricci 曲率から情報ボトルネックを読み、幻覚応答が自己注意への過度な依存や情報の過圧縮を一貫して伴うことを示す。Geometry of Values は、衝突する道徳的価値を秤にかける応用に向けて 12,000 件の二択ジレンマを構築し、タスクベクトルの合成による倫理的選好の整合を扱う。