LLM/NLP最新論文

LLMルーターの定式化を統一するLLMRouterが89 upvotesで首位。対話型ワールドモデルAlaya-EVOKE、ロボット操作向けDreamX-Phi 1.0、ハーネスを自然選択で進化させるDarwinXが続き、モデル単体の性能ではなく「どのモデルをどう繋ぐか」「世界をどう内在化するか」に関心が集まった一日となった。

注目度

注目論文

LLMRouter: Unified Infrastructure for Developing, Evaluating, and Deploying LLM Routers

著者: Tao Feng, Fangxu Yu, Haozhen Zhang et al.

すべてのクエリと予算制約に対して最適な単一のLLMは存在せず、コスト効率の高い配備にはモデルルーティングが不可欠である(89 upvotes)。しかし既存のルーターは定式化も実装もばらばらで、公平な比較も拡張も難しい状態にある。

新規性: ルーティング研究のボトルネックが手法ではなくインフラの断片化にあると特定した点が中核である。統一された定式化を与えることで、これまで各論文が独自の前提で報告してきた性能比較を初めて同じ土俵に載せる。ルーターを研究対象から運用可能なコンポーネントへ引き上げる基盤整備の仕事である。

手法: ルーティングの統一的な定式化を提示し、その上で開発・評価・デプロイを一貫して扱うインフラを構築する。

Hugging Face Daily Papers

Alaya-EVOKE: From Linear-Scaling Supervision to Endless World

著者: Yuanyang Yin, Gongxuan Wang, Yifan Zhan et al.

対話型ワールドモデルは、永続的な記憶、応答性の高い相互作用、長期ホライズンの生成をすべて支える必要があるが、これらの要求は互いに矛盾する負荷をモデルに課す(82 upvotes)。履歴をデノイザの文脈やKVキャッシュに保持し続けるとコストが増大し続け、セッション長との間にトレードオフが生じる。

新規性: 監督信号が系列長に線形にスケールするという制約そのものを問題として名指しした点が中核である。「無限の世界」を掲げる通り、有限の文脈予算のもとで無制限の長さを扱うために、記憶保持の方式を根本から組み替えようとしている。同日のPlayWorldが評価側から長期ホライズンを問うているのと表裏をなす。

手法: 線形スケーリングの監督から脱却する枠組みを提示し、永続記憶・応答性・長期生成の三者が競合する制約下でワールドモデルを構成する。

Hugging Face Daily Papers

DreamX-Phi 1.0: Action-Conditioned Video World Model for Robotic Manipulation

著者: DreamX Team, Rui Chen, Xiangxiang Chu et al.

観測フレーム、言語指示、そしてエンドエフェクタ姿勢とグリッパ状態からなる行動系列を与えられると、結果として生じる未来の観測を予測するロボット操作向けワールドモデルである(79 upvotes)。ただし著者らは、リアリズムだけでは十分でないと明言している。

新規性: 生成動画の見た目の妥当性と、ロボット制御に使える予測としての妥当性を明確に区別した点が中核である。行動条件付けを姿勢とグリッパ状態という具体的な制御量まで下ろしており、動画生成モデルを制御ループの内側へ持ち込むための要件を整理している。

手法: 観測・言語指示・行動系列を条件として未来観測を予測する行動条件付き動画ワールドモデルを構成する。

Hugging Face Daily Papers

DarwinX: Evolving Agent Harnesses Through Natural Selection

著者: Yifan Zhang, Yutong Dai, Juntao Tan et al.

LLMエージェントの能力はモデル重みだけでなく、プロンプト・ツール・スキル・制御フローからなるハーネスに依存する(57 upvotes)。自己改善ループはすでにハーネスを書き換えているが、単一系統の探索は経路依存的で、局所的な改善がしばしば他タスクの性能を退行させる。

新規性: 自己進化を単一系統の逐次改良ではなく、複数系統の自然選択として扱う点が中核である。局所的な勝ちが全体を壊すという診断は、前日のMendel Gödel Machineが比較信号の活用として提起した問題と同根であり、ハーネス最適化の探索構造そのものが争点になりつつあることを示す。

手法: 自己進化を集団レベルの自然選択として定式化し、単一系統探索の経路依存性と局所解を回避する。

Hugging Face Daily Papers

Intern-S2-Preview: Scientific Agentic Foundation Model

著者: Lei Bai, Jiaqi Cao, Chiyu Chen et al.

科学的発見には、異種モダリティにわたる科学的証拠を推論し、科学ツールや環境と相互作用し、長いタスクホライズンにわたって進行を維持できるAIシステムが必要になる(42 upvotes)。本研究はそうした要求に応える科学エージェント基盤モデル群を提示する。

新規性: 汎用モデルに科学タスクを解かせるのではなく、エージェント的な科学活動そのものを事前学習の対象に据えた点が中核である。著者リストが100名を超える大規模プロジェクトであり、同日のOmniScientist(4 upvotes)が「ワークフローの網羅だけでは科学的発見が依拠する証拠へ到達できない」と指摘しているのと問題意識を共有する。

手法: 異種モダリティの科学的証拠に対する推論、科学ツール・環境との相互作用、長期タスクの遂行を統合した科学エージェント基盤モデル群を構築する。

Hugging Face Daily Papers

How Can Rhetoric Reward-Hack AI Reviewers? Dissecting Rhetorical Sensitivity in AI-Based Peer Review

著者: Ming Li, Chenguang Wang, Xirui Li et al.

LLMが科学的評価に参加する度合いが増すなかで、本研究は報酬ハッキングの一形態を調査する(39 upvotes)。報告される科学的内容を保存したまま、修辞的な選択だけがAI査読の判定をどう動かすか、そしてその効果が評価条件によってどう変わるかを問う。

新規性: 「内容を変えずに書き方だけを変える」という統制を厳密に設けた点が中核である。査読AIの脆弱性を印象論ではなく対照実験で切り分けており、同日のJagged Judges(LLM審査員が圧力下でどれだけ判定を翻すか)と合わせて、LLM-as-a-judgeの信頼性が独立に複数のグループから疑われていることを示す。

手法: 科学的内容を保存したまま修辞的選択のみを変化させる対照コーパスを構築し、AI査読の判定感度を評価条件ごとに分解する。

Hugging Face Daily Papers

PlayWorld: Benchmarking World Models with Agent Players over Long-Horizon Objectives

著者: Kaixin Ding, Xi Chen, Minghong Cai et al.

動画ワールドモデルは現在の観測とユーザ行動を条件として未来状態をシミュレートする(33 upvotes)。近年のシステムは長い系列にわたる動画の一貫性と行動制御性で目覚ましい成果を示しているが、これら対話型モデルを公平に比較することは依然として難しい。人間のプレイヤーに依存する評価は再現性を欠く。

新規性: 人間プレイヤーをエージェントプレイヤーに置き換え、長期ホライズンの目標達成という単一の尺度でワールドモデルを比較可能にした点が中核である。動画の見た目の一貫性ではなく「そのモデルの中で目標を達成できるか」を問う設計であり、DreamX-Phiが提起した「リアリズムだけでは足りない」という主張の評価側の答えにあたる。

手法: エージェントプレイヤーが長期ホライズンの目標に取り組む形式でワールドモデルを評価するベンチマークを構成する。

Hugging Face Daily Papers

AutoDesign: Meta-Harness Optimization for Long-Horizon Agentic Design

著者: Yaxin Luo, Haobin Jiang, Jialv Zou et al.

マルチモーダルな素材を凝縮された構造的メディア出力へ変換する作業は、モデルとハーネスからなる系を中心とした長期ホライズンのエージェント過程として本質的に捉えられる(31 upvotes)。理想的なハーネスは人間の設計事前分布に沿い、経験を通じて再利用可能な知見を蓄積すべきである。

新規性: ハーネス最適化をさらに一段メタに引き上げ、ハーネスを設計する手続き自体を最適化対象とした点が中核である。同日のDarwinXが自然選択によるハーネス進化を扱うのに対し、こちらは設計事前分布との整合と経験蓄積を明示的な要件に置いており、探索の方向づけ方が対照的である。

手法: 長期ホライズンのエージェント的設計課題に対し、メタハーネス最適化の枠組みを構成する。

Hugging Face Daily Papers

Spatial Memory Agent: Experience-Grounded Procedure Memory for Spatial Intelligence

著者: Haokai Zhang, Yuhang Ding, Yunshu Zhou et al.

空間知能は身体化エージェント、ロボット計画、マルチモーダルアシスタントの基盤になりつつある(27 upvotes)。VLMエージェントの空間推論を高める既存研究は主に二つの路線に分かれ、一つは教師ありファインチューニングや強化学習といった後訓練に依拠してきた。

新規性: 空間推論の改善を重み更新ではなく、経験に基づく手続き記憶の側に置いた点が中核である。前日のAI4AI at Test-Timeが能力移転をハーネス経由で行ったのと同じく、モデルの外側に能力を蓄積する設計であり、この日も同じ潮流が空間知能の領域で反復されている。

手法: 経験に基づく手続き記憶を構成し、後訓練に依らずVLMエージェントの空間推論能力を強化する。

Hugging Face Daily Papers

Massive Activations in Hybrid Linear Attention Large Language Models: Pre-Attention Spikes and Inter-Spike Plateaus

著者: Zunhai Su, Bohan Sun, Xialie Zhuang et al.

層交互型のハイブリッド線形注意(HLA)LLMにおける巨大活性(Massive Activations, MA)を初めて体系的に調査した研究である(16 upvotes)。

新規性: アーキテクチャの構造とMAの出現位置が対応するという発見が中核である。MAは一貫してfull attention層の直前でスパイクを形成し(pre-attention spikes, PAS)、途中の線形注意層を貫いて持続しうる。線形注意とfull attentionを交互に積む設計が広く採用されつつあるなか、その内部でどこに数値的な特異点が生じるかを特定した結果は、量子化や圧縮の設計に直接影響する。

手法: HLA LLMにおける巨大活性を層ごとに解析し、pre-attention spikeとinter-spike plateauという二つのアーキテクチャ整合的な形態を同定する。

Hugging Face Daily Papers

Large Language Models Can Follow Instructions, But Not Many at Once: Phase Transitions in Compositional Constraint Satisfaction

著者: Mariya I. Vasileva

LLMは推論構造、安全境界、出力スキーマといった複数の明示的制約への同時準拠を求められる場面で配備が進んでいる。個別の制約は問題なく扱えるが、多数を同時に満たす合成的な領域の性質はほとんど解明されていない。

新規性: 制約を1個から12個まで系統的に変化させ、LLM審査員を一切使わず決定論的な規則ベース検証器のみで36種類の制約・369,753回の検査を行った点が中核である。制約あたりの通過率は緩やかに減衰するのに対し、全制約を同時に満たす確率は崩壊する。k=8で個別制約を約41%通過するモデルが、8個すべてを満たすのは5.7%にすぎない。失敗がほぼ独立であるために損失が乗算的に累積するという機構が特定された。

手法: 手続き的に生成されるベンチマークConstraint Saturation Evaluation(CSE)を構築し、15モデルを評価する。構造的制約は語彙的制約より1制約あたり2倍のベースライン能力を失い、持続的な追跡を要する制約と二値判定で済む制約の間に「理解-維持ギャップ」による順序が現れる。信頼できる指示追従は同時5〜6制約で破綻し、最強のモデルでも7制約でプローブレベル成功率が50%を割り、15モデル中12モデルでは3制約以下でそれを下回る。

arXiv

Jagged Judges: Epistemic Stability Under Silence, Pressure, and Persistence

著者: Justin Zhao, Himaghna Bhattacharjee, Hannah Korevaar et al.

LLM審査員はモデル評価、オンライン採点、報酬モデリングの中核インフラになっている。審査員は通常ゴールデンデータに対する正解率で検証されるが、正解率は再プロンプト・異議申し立て・継続的な反論に対する安定性についてほとんど何も語らない。

新規性: 審査員の頑健性を、機械的一貫性(再プロンプト・言い換えへの安定性)、単一ターンの信念(一度の異議への安定性)、マルチターンの持続性(持続的・適応的圧力への安定性)の三軸に分解した点が中核である。さらに重要なのは、審査員の判定を変えることに成功した圧力は、正解に対してほぼ常に有害に働くという発見である。押せば揺れるが、揺れた先は間違いになる。

手法: 安全性・毒性・AI文章検出・政治的応答評価にまたがる14の判定タスクで9つのフロンティアモデルを評価するWiggle Frameworkを構成する。全モデルが静的な反論で25〜71%、敵対的なLLM説得者に対しては62〜91%の割合で判定を翻した。判定が揺れる項目を予測する単発シグナルとしては、ベースラインの陪審多数派の強度が最も有効だった。

arXiv

SteerBench-Work: A Benchmark for Agent Steering at Action Boundaries

著者: (arXiv cs.AI)

長時間稼働するLLMエージェントはツールを通じて行動し、たった一手でメールを送信し、プルリクエストをマージし、送金を実行しうる。ステアリング判断とは、その境界における事前のコミット選択、すなわち実行するか、人間やポリシーのレビューのために保留するかの決定である。

新規性: 失敗が圧倒的に一方向に偏るという実測が中核である。30のモデル条件にわたり、承認済みで証拠上も問題のない作業を誤って保留する割合が28.1%であるのに対し、危険な作業を誤って許可する割合は1.0%にすぎない。過剰拒否が主要な失敗モードであり、しかも高能力モデルほどコミット境界で過剰に拒否する傾向がある。一般的な能力とステアリングのキャリブレーションは別物だという結論は、前日の「安全性を実行時契約に」という主張の実務的な難所を突いている。

手法: 開発運用・カスタマーサービス・財務・法務・医療・人事・セキュリティにまたがる106シナリオを実際のインシデントに紐づけて構成し、証拠を反転させた鏡像ケースとキャリブレーション用の統制を対にする。ラベルは実行と保留でほぼ均等に分割される。最難関はリスク要因がすでに署名済み・構造化された証拠で解消されている「リスク解決済みコミット」であり、有名インシデントそのものでは98.5%を得るモデルが、証拠を反転させた鏡像では63.8%まで落ちる。

arXiv

Don’t Want Your LLM to Recommend Nuclear Strike? Try Asking It in Japanese

著者: Rian Touchent

LLMは戦略的・助言的な文脈での利用が増えているが、その安全性アラインメントは通常英語でのみ評価される。本研究は、プロンプトの言語が高リスクなシナリオにおけるモデルの判断を変えうるかを問う。

新規性: 効果を生むのが入力の言語ではなく「モデルが推論するよう指示された言語」だと交差実験で切り分けた点が中核である。英語プロンプト内で日本語による推論を指示すると、発射率は93%から37%へ落ちる。日本語で推論する際、モデルはプロンプトに一切現れない道徳的語彙(“moral cost”、“millions of lives”)を自発的に生成した。ただし効果は英語ですでに躊躇するモデルにしか現れず、他の5モデルは言語に関わらずほぼ全条件で発射する。

手法: 6プロバイダ9モデルに対し、核武装国が無防備な相手を攻撃すべきかを助言させる単一ターンのゲーム理論的ヴィネットを用いる。プロンプトは意図的に非道徳的で、言語間で戦略的に同一である。Claude Sonnet 4.6は攻撃が不要なシナリオで40%から0%へ、係争シナリオで93%から17%へ低下し、攻撃が戦略的に合理的な場合の変化は小さい。効果はGemini Pro 3.1(53%→13%)にも及ぶ。英語のみの評価はリスクと安全装置の双方を見落としうる。

arXiv

分野別の動向

ワールドモデル:リアリズムから「使えるか」へ

この日はワールドモデル関連が三本並び、いずれも生成の見た目ではなく利用可能性を争点にした。DreamX-Phi 1.0(79 upvotes)は行動条件付き動画予測を提示しながら「リアリズムだけでは十分でない」と自ら釘を刺し、Alaya-EVOKE(82 upvotes)は永続記憶・応答性・長期生成という互いに競合する要求を、監督信号の線形スケーリングから脱却することで両立させようとする。PlayWorld(33 upvotes)はこれを評価側から受け、人間プレイヤーによる比較の再現性の欠如を、エージェントプレイヤーによる長期目標達成という尺度で置き換えた。Learning How the World Evolves(10 upvotes)も同じ診断を共有しており、主要な動画拡散モデルはピクセルを当てているだけで遷移の法則を学んでいないため、見た目は妥当でも法則に従わないフレームを描くと指摘する。H2R-Bench(6 upvotes)は人間の一人称操作動画をロボット学習へ移す際の身体差を扱い、生成モデルを実データの代替にする流れを補強する。

エージェント・ハーネス:進化の探索構造が争点に

ハーネス最適化はこの日も複数本が並んだが、前日までの「ハーネスに能力を置く」という主張から一段進み、その探索をどう組むかが論点になった。DarwinX(57 upvotes)は単一系統の自己改善が経路依存的で局所的な勝ちが他タスクを退行させると診断し、自然選択による集団探索を持ち込む。AutoDesign(31 upvotes)は逆に人間の設計事前分布との整合と経験蓄積を要件に据え、メタハーネス最適化として定式化する。Self-Evolving Embodied Agents via Skill-Harness Evolution(11 upvotes)は身体化エージェントで同じ構図を再現し、Spatial Memory Agent(27 upvotes)は空間知能の改善を後訓練ではなく手続き記憶に委ねる。SKILLER(3 upvotes)とSkillZip(73 upvotes)はスキル側の粒度を扱い、@skills(arXiv 2608.12610)はさらに配布の問題を突いて、公開スキル56,804個に対しシステムプロンプトの信頼できるトリガ枠が100未満しかないという流通のボトルネックを指摘する。能力をモデルの外に出す設計が広がった結果、外に出した先の管理コストが新しい制約になりつつある。

評価とジャッジ:正解率では測れないもの

LLMを評価器として使う前提が、この日は複数方向から崩された。Jagged Judges(arXiv 2608.12645)は9つのフロンティアモデルが静的な反論で25〜71%、敵対的説得者に対しては62〜91%の割合で判定を翻すと示し、しかも判定を変えることに成功した圧力はほぼ常に正解を損なう方向に働くと報告する。How Can Rhetoric Reward-Hack AI Reviewers?(39 upvotes)は科学的内容を保存したまま修辞だけを変えるという統制で、AI査読が報酬ハッキングされうることを実証した。Reasoning Jury(arXiv 2608.12585)は同じ問題に構成側から答え、単一の審査員では推論の欠陥を見つけられないとして陪審と調停付き合意形成を導入し、オープンウェイトモデルの陪審がフロンティアモデルを上回りつつコストは8〜15%に収まると報告する。Diagnostic Foundation for Evaluating LLMs’ Research Integrity(arXiv 2608.12345)は圧力下でモデルが3回に1回程度、研究倫理上重要な判断を誤ると示し、規模も推論能力もそれを確実には緩和しないと結論づけた。

指示追従とステアリング:合成すると壊れる

制約を重ねたときの振る舞いを扱う研究が二本、対照的な失敗を報告した。CSE(arXiv 2608.12426)は制約数を1から12まで振り、369,753回の規則ベース検査によって、個別制約の通過率が緩やかに減衰する一方で全制約の同時達成は崩壊すると示す。失敗がほぼ独立であることが乗算的な累積を生み、信頼できる指示追従は同時5〜6制約で破綻する。一方SteerBench-Work(arXiv 2608.12654)は行動境界での判断を測り、失敗が過剰拒否側に強く偏る(誤保留28.1%対誤許可1.0%)ことを示した。高能力モデルほどコミット境界で過剰に拒否し、推論を増やしても弱いゲートは直るがキャリブレーション済みのゲートは変わらない。制約を守れないという問題と、守りすぎて動けないという問題が同じ日に並んだ形である。Dead text or binding clause?(arXiv 2608.12599)はその中間を突き、撤回されたはずの制約をモデルが実行し続ける「behavioral relapse」を測定し、事前のコンパイルによって有意に減らせると報告する。

多言語と安全性:英語だけの評価が見落とすもの

Don’t Want Your LLM to Recommend Nuclear Strike?(arXiv 2608.12373)は、安全性の挙動が言語依存であることを高リスク設定で示した。効果を生むのは入力言語ではなく推論言語であり、日本語で推論させるとプロンプトにない道徳的語彙が自発的に現れる。同じ日にVision-Language Models are Fragile Multilingual Associators(arXiv 2608.12333)は視覚と言語の結びつきが言語不変でないと示し、語族や文字体系をまたぐと結合が崩壊して内部計算が後段の層へずれると報告する。Steering the Language Axis(arXiv 2608.12334)は126万生成を用いた因果介入で、言語選択がPCAで取り出せるコンパクトな方向によって制御可能であり、その方向を除去するとモデルは入力に関わらず英語へ回帰すると示した。多言語能力が表層の翻訳ではなく内部に方向として実装されているという描像は、英語のみの安全性評価がなぜリスクと安全装置の双方を取り逃がすかを説明する。

効率化とアーキテクチャ

推論コストに関わる研究も堅実に積み上がった。Massive Activations in HLA LLMs(16 upvotes)はハイブリッド線形注意における巨大活性がfull attention層の直前で規則的にスパイクすると同定し、量子化設計への直接の含意を持つ。Thought-Aware KV Cache Compaction(arXiv 2608.12331)は連鎖思考の階層構造を利用してKVキャッシュを圧縮し、Qwen3-4Bでピークメモリを65%削減しつつ精度を保つ。Dual-Flow Transformer(arXiv 2608.12385)はプレフィルとデコードで計算特性が異なることに着目し、追加の学習済み計算を継続予測側だけに割り当てる構成を示した。ReRound(3 upvotes)はキャリブレーション不要量子化における中点の曖昧さを扱い、Trie Automata(arXiv 2608.12574)は数千規模の有限集合からの制約付きデコードで、汎用文法コンパイルの「カーディナリティの壁」を回避してバッチ配信時に29倍のスループットを達成する。

ソース