LimiX-2が279 upvotesで突出し、表形式・構造化データに対する汎用基盤モデルの系譜が前進した。DeepSeek-V4.1-FlashのKVキャッシュ圧縮が続き、長期稼働エージェントの入力偏重な負荷を支える推論基盤が焦点となる。加えてScienceIDE・SoL-Pi・Agoraなど、自律的な研究・コーディングエージェントのハーネス設計を正面から扱う論文が厚く並んだ一日である。
注目論文
LimiX-2: A Contextual Mechanism Network Towards General Structured-Data Intelligence
著者: Xingxuan Zhang, Gang Ren, Hao Yuan et al.
LimiX ファミリーの新モデルであり、先行研究で確立されたスケーリング則に導かれる形でモデルとデータの規模を拡大して開発された（279 upvotes）。Contextual Mechanism Networks (CMNs) のパラダイムを採用し、Context-Conditional Masked Modeling (CCMM) で事前学習される。
新規性: 構造化データの扱いを、データセットごとに学習し直す予測器ではなく、文脈に条件づけられた一つの汎用モデルとして立てた点が中核である。表形式データの分野は勾配ブースティングを含む個別学習が既定であり、深層モデルもタスクごとの適合として評価されるのが通例である——だが各列・各行の意味がデータセットごとに異なるという事実は、文脈から機構を読み取る能力があれば障害ではなく入力になる。CMN を組織原理に据える構成は、その読み替えを規模の側から成立させるためのものである。
手法: Contextual Mechanism Networks を基礎とし、Context-Conditional Masked Modeling による事前学習を行う。確立済みのスケーリング則に沿ってモデル規模と学習データ量を拡大し、構造化データに対する汎用的な知能の獲得を目指す。
DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression
著者: DeepSeek-AI et al.
長期稼働エージェントの普及により、モデルの負荷は入力偏重（input-heavy）へと大きく傾いている（93 upvotes）。長文脈計算のコストは先行研究によって大幅に下げられてきたが、prefill は依然として計算コストが高く、巨大な KV キャッシュが HBM と SSD の容量およびデータ転送を圧迫し続けている。
新規性: 長文脈の負荷を生成側ではなく「入力の処理と保持」の問題として捉え直した点が中核である。長文脈の最適化は生成トークンあたりのコスト削減として語られるのが通例である——だがエージェントが何十回もツール出力を読み込む運用では、支配的なのは繰り返される prefill と、セッション間で居座る KV キャッシュのバイト数の側になる。KV キャッシュ圧縮を限界まで押し進める構成は、その支配項に直接効かせるためのものである。
手法: KV キャッシュの圧縮を中心に据えたモデル設計により、prefill の計算コストと、HBM・SSD の容量およびデータ転送に対する KV キャッシュの圧迫を同時に緩和する。
ScienceIDE: Turning World’s Scientific Codebase into Agent Learnable Environments
著者: Hejia Geng, Zesen Huang, Haoyang Li et al.
科学のコードリポジトリは、実行可能なモデル・手法・ツールという形で数十年分の人類の知識を符号化している（73 upvotes）。しかし断片化したツールチェーン、暗黙の領域慣習、専門化された正しさの基準が、この知識を信頼できる学習経験へ変換することを難しくしており、本研究はこれを科学領域固有の課題として定式化する。
新規性: 科学コードを「エージェントに読ませる知識」ではなく「エージェントが学習できる環境」へ変換する対象として扱った点が中核である。科学分野のエージェント研究は論文読解や仮説生成の能力として測られるのが通例である——だが実際に動く科学的成果は既存コードの上に積まれるものであり、その実行環境を再現できなければ試行から学ぶ経路自体が存在しない。既存リポジトリを環境化する構成は、その経路を開くためのものである。
手法: 断片化したツールチェーンと暗黙の領域慣習を持つ科学コードリポジトリを、エージェントが学習可能な環境へと変換する枠組みを構築し、領域固有の正しさの基準を評価に組み込む。
SoL-Pi: Recursively Scaling Auto-Research Loops for Efficient Agent Harness
著者: Haozhe Liu, Tian Ye, Sensen Gao et al.
コーディングエージェントが教師あり補完から無人の終日探索へ移行するにつれ、その作業は孤立した予測から、推論・ツール利用・フィードバックの長い軌跡へと広がる（68 upvotes）。したがって再帰的な自己改善をスケールさせるうえでトークン効率が重要になる、というのが本研究の出発点である。
新規性: 自己改善ループのスケール要因をモデル能力ではなくハーネスのトークン効率に定めた点が中核である。自己改善の研究は探索の質や評価器の精度の問題として扱われるのが通例である——だが無人で回し続ける以上、一周あたりに費やすトークンがそのまま回せる周回数の上限になり、効率が探索の量を決めてしまう。トークン効率を軸に再帰的にスケールさせる構成は、その上限を押し上げるためのものである。
手法: 自律的な自己改善（auto-research）ループを、トークン効率を設計指標として再帰的にスケールさせるエージェントハーネスを構築する。
Rethinking Critic Learning in PPO: Understanding and Mitigating Value Flattening
著者: Yizhuo Li, Jianhao Yan, Yun Luo et al.
大規模言語モデルの強化学習において、PPO は状態価値を推定し方策更新の分散を減らすために critic を用いるのが通例である（62 upvotes）。本研究はその PPO の critic に系統的な失敗モードを見出し、これを Value Flattening（価値の平坦化）と名付けている。
新規性: PPO の不安定さをハイパーパラメータや報酬設計の問題ではなく、critic が推定する状態価値そのものが平坦化する機序として同定した点が中核である。LLM の RL では critic を廃して群ベースの優位性推定に移る流れが強い——だが critic が原理的に不要なのか、実装上の失敗モードのせいで機能していないだけなのかは別の問いであり、後者なら捨てるより直す道がある。平坦化の同定と緩和という構成は、その区別を付けるためのものである。
手法: PPO の critic において状態価値の推定が平坦化する現象を分析して失敗モードとして切り出し、それを緩和する学習方法を提示する。
An Empirical Study of Harness Design for Coding Agents
著者: Run-Ze Fan, Zihao Zhang, Simin Ma et al.
コーディングハーネスは、自律コーディングエージェントがモデルの能力を長期的なソフトウェア工学の性能へ翻訳する仕方を規定する（55 upvotes）。しかし既存研究はハーネスを一枚岩のシステムとして評価するのが通例であり、個々の構成要素の有効性は不明なままだと本研究は指摘する。
新規性: ハーネスの評価単位を「システム全体の成績」から「構成要素ごとの寄与」へ下げた点が中核である。エージェントの比較は SWE-bench 系の総合スコアで語られるのが通例である——だがスコアはモデル・足場・プロンプトの合成物であり、どの部品が効いているかを分離できない限り設計指針にはならない。構成要素単位の比較を可能にする構成は、その分離を実証的に行うためのものである。
手法: コーディングハーネスを構成要素へ分解し、要素ごとに比較可能な実験設計のもとで、長期的なソフトウェア工学タスクにおける各要素の寄与を実証的に測定する。
Confidence Comes from Experience: Experiential Confidence Estimation from Reasoning to Agents
著者: Caiqi Zhang, Xiaochen Zhu, Chengzu Li et al.
信頼できる確信度の推定は、言語モデルの安全な配備においてますます中心的になっている（54 upvotes）。出力が正しい確率の較正された推定値は、何を出荷し、何をエスカレーションし、何を再試行するかを決める。しかし既存の確信度推定器は一つの設計前提を共有していると本研究は指摘する。
新規性: 確信度を出力分布や自己申告からではなく、エージェントが積んだ経験から推定するものとして立て直した点が中核である。確信度推定はトークン確率・自己整合性・verbalized confidence のいずれかとして構成されるのが通例である——だがいずれも単一の応答を生成する時点の内部状態しか見ておらず、同種のタスクで過去に何回失敗したかという情報を使えない。経験に基づく推定という構成は、その情報を較正に持ち込むためのものである。
手法: 既存の確信度推定が共有する設計前提を外し、過去の経験に基づく確信度推定の枠組みを構築して、単発の推論からエージェントとしての長期的な運用までを通して評価する。
ProgramDistill: From Interactive Web Apps to Verifiable Reference-Guided SWE Tasks
著者: Jeonghye Kim, Minseon Kim, Young Jin Kim et al.
コーディングエージェントは、望ましい振る舞いが issue や指示の形で明示されたうえで評価されるのが通例である（47 upvotes）。しかし実際の Web 開発では、エージェントは動作しているソフトウェアから振る舞いを推論し、それを未完成のアプリケーションへ実装する必要がありうる。
新規性: 仕様の与え方を自然言語から「動いている参照実装」へ置き換えた点が中核である。SWE 系のベンチマークは issue 文や docstring を仕様として与えるのが通例である——だが実務で参照されるのは往々にして既存の画面そのものであり、文章化されていない挙動を触って確かめる工程こそが作業の中身になる。対話可能な Web アプリを参照に据える構成は、その工程を評価対象に含めるためのものである。
手法: 対話的な Web アプリケーションを参照として与え、そこから推論した振る舞いを不完全なアプリへ実装させる、検証可能な参照ガイド付きのソフトウェア工学タスクとしてベンチマークを構築する。
Agora: Git as Shared Memory for Collective AutoResearch
著者: Yifan Zhang, Yunheng Zou, Shaokun Zhang et al.
AutoResearch のような自律的な研究ループは、一つのコーディングエージェントが無人で学習設定を改善できることを示してきた（42 upvotes）。しかし複数を同時に走らせると各セッションがゼロから始まるため、エージェントを増やすことは発見を増やすより探索の重複を増やす方向に働きやすい。
新規性: エージェント間の共有メモリを新規の記憶機構ではなく git に置いた点が中核である。マルチエージェントの記憶共有はベクトルストアや専用のメモリサーバとして設計されるのが通例である——だが研究ループが実際に生み出すのはコードの変更と実験結果であり、それらの由来・差分・分岐を追跡する仕組みは既に版管理として存在している。git を共有メモリに据える構成は、その既存の構造をそのまま集団的探索の基盤に転用するためのものである。
手法: 複数の自律研究エージェントが探索結果を git リポジトリ上で共有する仕組みを構築し、セッションごとのゼロからの再探索と重複を抑える。
Verifiable Social Reasoning for LLM Assistants
著者: Amir Taubenfeld, Zorik Gekhman, Avigail Grinstein-Dabush et al.
LLM アシスタントは日常的な社会的助言に広く用いられているが、こうした相談の設定での社会的推論の評価は依然として難しい（33 upvotes）。理由は二つあり、(i) アシスタントが主観的なユーザーの語りから社会状況を把握するような設定を要すること、(ii) 他者の意図といった社会的性質が直接には観測できないことである。
新規性: 社会的推論の評価を人手のスコアリングではなく検証可能（verifiable）な形式へ落とし込んだ点が中核である。社会的能力の評価は人間の選好や LLM 審査員による採点として構成されるのが通例である——だが相談の場面では「利用者の語り」という偏った情報源を経由するため、何が正解かを外部から定義しない限り採点は語り手の視点を追認するだけになる。検証可能性を設計要件に据える構成は、その追認を避けるためのものである。
手法: 主観的なユーザーの語りから社会状況を推論する相談設定を構成し、他者の意図などの直接観測できない社会的性質について検証可能な評価が成り立つ枠組みを提示する。
分野別の動向
エージェントのハーネスと集団的自律運用
この日の論文群でもっとも厚いのがこの帯である。SoL-Pi、An Empirical Study of Harness Design、Agora、ScienceIDE、ProgramDistill がいずれも、エージェントの能力をモデル側ではなく「それを取り巻く足場」の設計問題として扱っている。CERA-MoA は同じ方向を Mixture-of-Agents に適用し、現行の MoA がクエリのルーティングとエージェントの微調整を別々の過程として扱うために、ルーティング戦略が事後学習中のエージェント能力の変化に追随できない点を出発点に、両者を共進化させる枠組みを提示する。Self-Evolving Search Index は検索側から同じ課題に触れ、LLM エージェントが多様な情報要求を伴う複雑なタスクを扱うようになるほど検索の重要性が増す一方、検索品質は文書を表すインデックスキーが知識をどれだけ露出できるかに強く依存すると述べ、インデックス自体を自己進化させる。個々の工夫というより、エージェントを固定の製品ではなく運用中に改訂され続ける系として設計する前提が共有されつつある。
蒸留と強化学習の内部機序
Rethinking Critic Learning in PPO が critic の失敗モードを掘ったのと並行して、on-policy 蒸留（OPD）の仕組みを分解する論文が複数同時に出ている。RetireOPD は、多ターンのエージェントが RL で軌跡あたり単一のスカラー報酬しか受け取らないことが自己 OPD の動機になっていると整理したうえで、特権的なタスク技能を持つ自己教師から密なトークン単位の監督を与える枠組みに「自己引退」の機構を組み込む。What Does Privileged Information Add to On-Policy Self-Distillation? は同じ設定をより直接に問い、答えや解法を見ている凍結コピーが教師として与える上乗せが、蒸留それ自体の効果を超えてどれだけあるのかを切り分ける。Don’t Mask the Environment は SFT の慣行そのものを疑い、標準的な SFT がエージェントの生成した行動トークンにのみ損失を掛け、環境の観測は文脈としてのみ使って予測対象にしない点を取り上げ、この慣行が RL の初期化として最良かを問う。When2Think は大規模推論モデルが易しい問題を考えすぎ難しい問題を考えなさすぎるという系統的な非効率を扱い、一律の長さペナルティや硬直したルーティングが効率税を招くと指摘する。A Zeroth-Order Paradigm for LLM Preference Alignment は、選好対の尤度マージンが小さいときに生じる likelihood displacement を動機に、直接選好最適化とは別の情報抽出の道筋を探る。
推論コストとメモリ階層
DeepSeek-V4.1-Flash が入力偏重な負荷を KV 圧縮で受け止める一方、Video DeltaNet は動画拡散モデルを対象に、去ノイズの各段階で長い時空間トークン列を繰り返し処理するために注意が計算上の主要なボトルネックになると述べ、線形注意を動画モデルへそのまま適用したときの不具合を回避する動画ネイティブなハイブリッド注意を提示する。Register Tokens for Bounded-State Reasoning in Diffusion Language Models は、マスク拡散言語モデルで生成チャンクをまたいで推論を続けるには通常それ以前の生成テキストを文脈に残す必要がある点に着目し、テキストを保持しない有界状態での推論継続が可能かを問う。方向は異なるが、いずれも「保持しなければならない状態の量」を設計変数として扱っている点で共通する。
マルチモーダル評価と空間知能
VABench は空間知能を物体位置の記述に還元せず、不完全な観測のもとで欠けている証拠を同定して取得し、共通の空間座標系で解釈して行動するという観測–推論–行動–修正の完全なループを評価すると述べる。Region-Level Policy Optimization は MLLM の細粒度知覚を解像度の引き上げで改善する通例に対し、増えた視覚トークンが視覚符号化と言語モデルの prefill の双方のコストを押し上げる点を指摘し、関心領域の特定と認識という二つの操作を分けて最適化する。UFO は主体駆動のカスタマイズを含む多モーダル画像生成において、生成モデルの進展に対し評価が大きく遅れていると述べ、埋め込みベースでも MLLM ベースでもない連鎖的な評価を構成する。PANORAMA は VLM が流暢で詳細なキャプションを生成できる一方、それを画像の画素へ確実に対応づけることは依然として難しいという点を出発点にする。WeVisDoc は文書解析の学習コーパスが一般的な文書種別と綺麗なデジタルページへ偏っており、網羅範囲を広げるだけでは何をどう扱うかが定まらないと指摘する。評価側の設計が生成側の進展に追いつくための再構成が、複数の部分領域で同時に進んでいる。
信頼性・コンプライアンスと低資源言語
PACT は、企業向けの LLM エージェントが採用・医療・金融といった機微な文脈へ配備されるなか、エージェントのシステムコンテキストに書かれた規則への遵守が第一義的な法的関心事であるにもかかわらず、それを測る評価枠組みが存在しないと述べる。Confidence Comes from Experience の較正の議論と合わせ、「出力の質」ではなく「配備判断の根拠」を測る方向が強まっている。周辺では低資源言語と文字体系の整備も進み、VākQA はテルグ語の音声ファクトイド QA のベンチマークが未開拓であり、この設定での自動評価の信頼性も定量化されていないと述べてベンチマークと評価研究の双方を提示する。Srijika は九つのブラーフミー系文字についてインストール可能な OpenType フォントを、ゼロから生成するのではなくシェーピングの完成したテンプレートフォントのグリフ輪郭を再スタイルすることで作る。Gaze as Evidence for Common Grounding は、非対称な情報を持つ協調課題で参加者が相互作用を通じて理解を揃える過程について、視線が grounding の証拠を与えるかを MapTask と MUNDEX の二コーパス横断で検証している。