エージェントのSkillが効く条件と破綻する境界を機序レベルで解剖したDemystifying Agent Skillsが121 upvotesで首位。逆伝播スタックを外して長期ホライズン微調整を最小GPUに載せるAgentic ESOpt、方法論の指示を段階的に剥がすASI-Benchが続き、「与えられた足場をどこまで信用できるか」を問う論文が上位を占めた。
注目論文
Demystifying Agent Skills: Why They Work-Until They Don’t
著者: Zhiyuan Jiang, Fangrui Huang, Hanwen Xing et al.
Skill(構造化された知識パッケージ)は、推論時にLLMエージェントを強化する実用的で効果的な手法として定着した(121 upvotes)。しかし既存の評価はもっぱら「Skillを入れるとタスク成功率の集計値が上がるか」を測っており、より根本的な問い——いつ効き、いつ効かなくなるのか——はほとんど掘り下げられてこなかった。
新規性: 集計スコアの改善を成果とみなす評価様式そのものを問い直した点が中核である。Skillは追加学習を伴わず推論時に差し込めるため導入コストが低く、その手軽さゆえに「効いた/効かなかった」の二値で語られやすい。だが実際には、Skillが前提とする状況とエージェントが置かれた状況がずれた瞬間に効果は反転しうる。破綻の境界を機序として特定できなければ、Skillの適用範囲を設計時に見積もることができない。この日の最高得点であり、Skillが実運用に降りてきた段階での必然的な検証と言える。
手法: タスク成功率の集計ではなく、Skillが効果を発揮する条件と失われる条件を切り分ける評価設計により、Skillの働きを機序レベルで特徴づける。
Agentic ESOpt: Fine-Tuning Long-Horizon LLM Agents with Minimal GPU Requirements
著者: Zhi Zheng, Rongsheng Chen, Yunpeng Ba et al.
強化学習は単ターンのLLM微調整では有望な成果を挙げてきた(91 upvotes)。しかし長期ホライズンのエージェント推論では相互作用が枝分かれ的に増大し、報酬が疎になるため、RLの限界がいくつも露呈する。とりわけ、逆伝播に依存する重い訓練スタックそのものが実用上の障壁になる。
新規性: 長期ホライズン微調整の障害を、アルゴリズムの設計ではなく訓練スタックの重さとして捉え直した点が中核である。分岐する相互作用と疎な報酬という条件下では、勾配情報の質は下がる一方で計算コストだけが積み上がる。ならば逆伝播ベースのスタックを前提から外すほうが合理的だという判断であり、結果として「最小GPU要件」という実務的な訴求点に接続する。エージェントRLがGPUクラスタを持つ組織の専有物でなくなる方向を示す。
手法: 逆伝播ベースの重い訓練スタックに依存しない最適化により、分岐的な相互作用と疎報酬を伴う長期ホライズンエージェントの微調整を、小規模なGPU資源で実行可能にする。
FreeToken: Efficient Edge-Native MoE Serving with Bandwidth-Adaptive Execution
著者: Shuo Yang, Xiaoze Fan, Melissa Pan et al.
フロンティア級のオープンウェイトモデルは次々と入手可能になっているが、それらを実際に配信する方法は依然としてデータセンター基盤を前提としている(57 upvotes)。FreeTokenは、個人のマシンを「小さなGPU」ではなく「統合された弾性的な推論プラットフォーム」として扱うエッジネイティブなMoE配信システムである。
新規性: 個人マシンをGPU単体の性能で評価するのをやめ、CPU・メモリ・ストレージを含む一つの弾性的な資源プールとして再定義した点が中核である。MoEは活性化パラメータこそ少ないが全体重みは巨大であり、エッジ環境では帯域がボトルネックになる。この制約を固定的な障害ではなく実行時に適応すべき変数として扱う設計により、データセンター前提のサービング設計を個人環境へ持ち込まずに済む。著者陣にKurt Keutzer、Song Han、Matei Zaharia、Ion Stoicaらシステム側の主要研究者が並ぶ。
手法: 帯域に適応する実行機構を軸に、個人マシンの資源を統合的・弾性的に扱うエッジネイティブMoE配信システムを共同設計する。
ASI-Bench: At the Dawn of Artificial Superintelligence
著者: Junwei Zhou, Zhen Sun, Binyu Li et al.
人工超知能(ASI)に求められるのは、既存知識の習得を超えて未知を探索し、新しい知識を創出し、着想を検証可能な結果へ変えることである(51 upvotes)。しかし現在のAIは依然として既存の人間知識の学習・圧縮・適用の上に成り立っており、既存ベンチマークも「学んだ知識で正答を出せるか」「大量の人間の指示のもとでタスクを完遂できるか」を測るにとどまる。
新規性: 同一の研究課題の内部で人間による方法論的ガイダンスを段階的に取り去るという評価設計が中核である。従来のベンチマークは指示の量を固定するため、成績がモデルの自律性に由来するのか与えられた足場に由来するのかを分離できない。ガイダンスを剥がしていく設計はこの交絡を直接切る。40名超の専門家と31,000時間以上を投じ、11分野60件のプロジェクト級タスクを構築。18のエージェント・モデル構成での平均スコアは、完全な方法論的ガイダンス下の50.91から、手法のみ指定で29.10、手法の選定自体を委ねると26.62まで低下する。現行システムが依然として人間の誘導に強く依存しており、プロジェクト規模の研究を端から端まで自律実行する段階には程遠いことを、数値として突きつけている。
手法: 専門家によるレビュー、AI支援監査、サンドボックス実行、採点器の検証を全タスクに施したうえで、方法論的ガイダンスを段階的に減らしながら手法選定・研究遂行・検証可能な成果の産出を評価する。
Embodied-Navigator: Point, Think, Memorize, and Align for Efficient Navigation
著者: Hongyan Feng, Sunlai Chen, Xuanyu Liu et al.
大規模視覚言語モデル(VLM)は具身ナビゲーションを大きく前進させたが、そのまま配備するのは依然として難しい(44 upvotes)。既存手法はVLMを不自然な行動空間へ押し込んでおり、それがVLMの2D事前学習で得た事前分布と噛み合わない。加えて硬直した推論スケジュールが問題を複雑にしている。
新規性: ナビゲーション性能の不足を、モデル能力ではなくインタフェース設計の不整合として位置づけた点が中核である。VLMは2D画像上の指示表現に強い事前分布を持つのに、ナビゲーション研究は独自の離散行動空間を課してきた。指差し(Point)を軸に行動空間を事前分布側へ寄せ、思考・記憶・整合を段階として組み込む構成は、VLMを作り変えるのではなくVLMに合わせて課題側を作り直す方向にある。
手法: VLMの2D事前分布に整合する行動空間を採用し、推論・記憶・整合の各段階を適応的なスケジュールで組み合わせることで、具身ナビゲーションの効率を高める。
AVA-Encoder: Towards Agent-Native Video Representation Learning
著者: Chuyue Li, Jinpeng Yu, Haozhe Wang et al.
創作エージェントには、質の高い人間の映画作品から学ぶ有効な手立てが依然として存在せず、それが映画品質の映像を生み出す能力を制約している(35 upvotes)。中核的な課題は、映像内容に忠実であると同時に、エージェント的な推論と操作にそのまま使える構造化された動画表現が欠けていることである。
新規性: 動画表現の要件を「再構成の忠実さ」から「エージェントが操作できること」へ拡張した点が中核である。既存の動画エンコーダは生成モデルの入力として最適化されており、表現の中身をエージェントが読んで判断し編集する用途を想定していない。映画から学ぶという目標を掲げるなら、カット・構図・時間構造といった制作上の単位が表現の側に現れている必要がある。エージェントネイティブという語はその要求を指している。
手法: 映像内容への忠実性とエージェントによる推論・操作可能性を同時に満たす構造化動画表現を学習し、創作エージェントが人間の映像作品から学べる基盤を与える。
Advancing Open and Reproducible Relational Learning: RelArena-α, TabPFN-Rel and RPI
著者: Adrian Hayler, Klemens Flöge, Alan Arazi et al.
Prior Labsによる関係学習分野での最初のリリースであり、オープンサイエンスへの継続的なコミットメントを示すものだと位置づけられている(23 upvotes)。ベンチマーク(RelArena-α)、関係データ向け基盤モデル(TabPFN-Rel)、推論基盤(RPI)の三点を同時にオープンソース化し、分野の研究を現実的なインパクトへ向けて加速させることを狙う。
新規性: 評価・モデル・実行基盤を三点同時に公開した点が中核である。関係データ(複数テーブルにまたがる構造化データ)は実務で最も多く扱われる形式でありながら、LLM周辺の熱量に比してオープンな基盤整備が遅れてきた。ベンチマークだけ、モデルだけを出しても比較可能性は生まれないため、三つを揃えて出すことで初めて再現可能な競争が成立する。著者リストにYann LeCun、Bernhard Schölkopf、Frank Hutter、Jure Leskovec、Noah Hollmannら分野横断の研究者が名を連ね、コミュニティのフィードバックを前提に今後の方向を決めるとしている。
手法: 関係学習向けのベンチマークRelArena-α、TabPFNの関係データ拡張であるTabPFN-Rel、推論基盤RPIの三つのソフトウェアをオープンソースとして公開する。
HarmProfile: Characterizing Harmful Distributions in Frontier LLMs
著者: Zhouyuan Ma, Yutao Wu, Hanxun Huang et al.
フロンティアLLMの安全性評価は、有害な生成をもっぱら「攻撃の結果」として扱ってきた(19 upvotes)。その結果、モデルが逸脱した際に実際どのような有害出力が生じるのかについてはほとんど分かっていない。大規模で質の高い収集物が存在しないことが、その一因である。
新規性: 有害出力を成否の指標から分析対象の分布へ格上げした点が中核である。攻撃成功率(ASR)だけを見る評価では、同じ成功率でも出力の性質がまったく異なる二つのモデルを区別できない。何が、どの程度の具体性で生成されるのかを分布として把握できなければ、防御の優先順位も付けられない。この日はDiSCO(text-to-imageの黒箱防御、15 upvotes)やFool’s Gold(オープンウェイトの安全性除去攻撃に対する欺瞞防御)も並んでおり、安全性研究が「攻撃の成否」から「被害の中身」へ視点を移しつつある。
手法: モデルの逸脱時に生成される有害出力を大規模かつ高品質に収集し、その分布を特徴づけることで、フロンティアLLMの有害生成を分析可能な対象として定式化する。
Agent Lightning v1.0: Towards Harnessed Agentic RL
著者: Zhiyuan He, Siwei Zhang, Zhiwen Zhou et al.
現代のエージェントはハーネス(ツール・文脈・制御フローを管理する実行系)の内部で動作しており、ハーネスはエージェントシステムの決定的な構成要素になっている(16 upvotes)。当初のAgent Lightningは、任意のエージェントをLLMエンドポイントのプロキシ経由でRL訓練に接続する分離アーキテクチャを提示していた。
新規性: ハーネスを一級の対象として扱う分離アーキテクチャがv1.0という安定版に到達した点が中核である。研究段階のRL基盤は特定のエージェント実装に密結合しがちだが、プロキシを挟んで訓練と実行を分離すれば、既存のエージェントを書き換えずにRLへ接続できる。前日のStateM(ハーネスを人手でスケール)やClawGym II(ハーネスを黒箱としたRL)と合わせ、ハーネスが「所与の足場」から「最適化対象」へ移る流れが、実装基盤の側でも固まってきた。
手法: LLMエンドポイントのプロキシを介して任意のエージェントとRL訓練を接続する分離アーキテクチャを拡張し、ハーネスを明示的に組み込んだagentic RL基盤として整備する。
Dynamic Multi-Byte Prediction With Hierarchical Language Models
著者: Abraham Toluwase Owodunni, Chibuzor Okocha, Christan Grant et al.
バイト単位の階層型言語モデルは、サブワードトークン化に依存する主流の方式に対する頑健な代替として近年台頭してきた(13 upvotes)。しかし一度に1バイトずつ生成することが推論速度のボトルネックとして残り続けていた。
新規性: トークナイザ廃止路線の最大の実用的弱点を、動的な複数バイト同時予測(MBP)で正面から潰しにいった点が中核である。バイト単位モデルは多言語や表記体系の多様性に強い一方、系列長がサブワードの数倍になるため生成が遅く、その一点で実運用の選択肢から外れてきた。予測するバイト数を固定せず動的に決める設計は、予測しやすい箇所でまとめて進み、難所では慎重に進むという自然な配分になる。同日のcs.CLでは、トークン化を言語モデリングと同時に最適化したときに何が学習されるかを18言語で分析した研究も出ており、トークン化層の再検討が同時多発的に進んでいる。
手法: バイト単位階層型LMに複数バイト同時予測(MBP)を導入し、一度に生成するバイト数を動的に決めることで、逐次生成のボトルネックを緩和する。
分野別の動向
エージェントのスキルとハーネス
この日もハーネス関連が層として厚い。Demystifying Agent Skills(121 upvotes)がSkillの効く条件と破綻の境界を機序として解剖し、Agent Lightning v1.0(16 upvotes)がハーネスを組み込んだagentic RL基盤をv1.0へ引き上げる。安全性側ではHarnessRisk(7 upvotes)がツール・拡張・永続状態・権限・外部行動というライフサイクル全体を対象にしたハーネス安全性ベンチマークを提示し、A.I.Gを用いたDeepSeek Harnessの間接プロンプトインジェクション評価は16の間接コンテンツ経路にわたる14,560件の統制実行を報告している。Harness the Memory(11 upvotes)はメモリ基質(記憶が表現・格納される媒体)の選択を運用条件ごとに切り分けて評価する。cs.AI側のSkillEffectは、Skillが指示する手続き的・資源的義務をモデルがコード化する際にメモリ上限を超える問題を、検証付きlowering実行時系として扱う。Skillとハーネスが「便利な足場」から「検証・最適化・攻撃の対象」へ一斉に移行している。
科学的発見と自律研究の評価
ASI-Bench(51 upvotes)が方法論的ガイダンスの段階的除去という設計で自律実行能力を測り、平均50.91→29.10→26.62という明確な低下を示した。The Problem Is the Problem(Zeyu Zheng, Jeremy Avigad, Sean Wellecら)は、AI数学研究のボトルネックが問題選定と専門家レビューという人手集中の両端にあると診断し、組合せ論5,245本から6,453件の予想・未解決問題を回収して4,717件へ絞り、598件の解決候補から77件を著者チームのレビューへ回すFARパイプラインを構築。Erdős–Straus予想関連を含む複数の結果を得たとする。MathForm(6 upvotes)は知識検索と検証誘導型の精緻化でLean 4への自動形式化をスケールさせ、Personalized Auto-Research(4 upvotes)は研究者非依存の最適化に偏った既存のAI共同研究者を個人化する方向を提起する。発見の遂行能力を測る側と実際に発見する側が、同じ日に噛み合った形になっている。
推論効率とシステム
FreeToken(57 upvotes)が個人マシンを弾性的推論基盤として扱うエッジネイティブMoE配信を示す一方、DumpsterCluster(2 upvotes)は退役GPUの二次市場に着目し、60ドルのGPUでLLaMA-70Bを配信できる条件を検証する。GPUカーネル側ではPTXBench(1 upvote / cs.CL)がアーキテクチャ固有PTXの利用能力をH100・B200上で機能的正しさ・目標命令の実行・フロンティアライブラリ比の高速化として測り、どのモデルも一貫してライブラリに並べないと報告。KernelArcはマルチエージェント探索でSOL-ExecBenchの複数カテゴリ首位を取っている。効率化の主戦場が、モデル圧縮から「どの計算資源をどう組み替えるか」へ移っている。
安全性とレッドチーミング
HarmProfile(19 upvotes)が有害出力を分布として特徴づけ、DiSCO(15 upvotes)は白箱前提の既存防御が届かないプロプライエタリなtext-to-imageに対し、プロンプト層のみで動く黒箱防御でI2PベンチマークのASRを37.7%/25.13%削減する。「言語的には安全なのにモデルの学習分布ゆえに有害生成を誘発するプロンプト」をbenign adversarialとして名指しした点が要点である。cs.AIのFool’s Gold(Mark Russinovich)は、オープンウェイトの安全性除去(abliteration)を防げないものと認めたうえで、除去後に流暢だが致命的に誤った囮回答を返すよう仕込む防御を7モデル(9B〜122B)で評価する。Benchmarking the Benchmarks(cs.AI)は、LLM向け安全性ベンチマークを小規模言語モデルへ流用すると曖昧判定が支配的になり、平均スコアによる順位付けが数学的に脆いことを26モデルで示した。
言語モデル基盤とNLP
Dynamic Multi-Byte Prediction(13 upvotes)がバイト単位階層LMの生成速度を動的多バイト予測で改善する一方、cs.CLではトークン化を言語モデリングと同時最適化した際に何が学ばれるかを18の類型・文字体系にわたって分析した研究が出ている(SSLMは形態論に整合したトークンを回収し、H-Netsはバイト効率を優先して既存サブワード語彙とほとんど重ならない)。理論側では「埋め込み空間構造に多言語性の呪いは存在しない」ことが証明され、完全な多言語性に必要な最小次元数は言語数の対数でしか増えないと示された(経験的な呪いは実データと訓練条件に由来するという含意)。Cross-Model Memory Transfer(4 upvotes)は、外部ハッシュメモリを別のバックボーンへ移す際に効くのは凍結メモリ本体か対象側リーダーかを切り分け、リーダー整合が鍵だと結論する。応用側では、機関固有のPHIをLLMのin-context learningで回収する研究(TiDEのF1 0.779に対し0.918)や、金融ニュースNLPの時間的リークを16構成で監査した研究が並ぶ。
マルチモーダル生成・編集
生成系も厚い。EDITBRIDGE(21 upvotes)が二次的な注意計算量の壁で1K未満に留まっていた拡散編集を超高解像度へ引き上げ、V-RAE(15 upvotes)は動画潜在空間がピクセル再構成に最適化されすぎて高次意味を持たない問題を扱う。CoinVE-200K(13 upvotes)は単一編集操作に偏った既存データセットに対し複合的な指示編集の大規模データを、GRNEdit(13 upvotes)は重い条件付けを避ける二値証拠の観点からの効率的な一般動画編集を提示。Abra(7 upvotes)はテキスト画像拡散に対する計算最適スケーリング則を三桁のスケールで体系的に調べ、MoE-ViE(10 upvotes)は視覚エンコーダ側にMoEを持ち込む。前日のWorldRoverやMegaPartsに続き、生成・データ・スケーリング則が同時に整備されつつある。