LLM/NLP最新論文

潜在トークン上の視覚推論を証拠に接地させる研究が200 upvotesで首位。自己進化型検索エージェントで出題者と解答者が誤りを共有する co-cheating の特定、ハーネスと行動の境界設計が続き、自分で回る仕組みの内側をどう検査するかが共通論点になった。

注目度

注目論文

Rethinking Latent Visual Reasoning: Grounding Latent Reasoning in Visual Evidence

著者: Xi Xiao, Tianchen Zhao, Youngeun Kim et al.

潜在視覚推論(LVR)は、マルチモーダル大規模言語モデル(MLLM)に中間計算を言葉ではなく連続的な潜在トークン上で行わせる手法である(200 upvotes)。だがテキストのCoTと違って潜在推論は直接観測できず、監督を与えることが難しいと本研究は指摘する。

新規性: 潜在推論の監督対象を、言語化されない内部状態そのものではなく視覚的証拠との対応に置いた点が中核である。潜在推論の研究は、連続トークン列の表現力や計算量の利点を示す形で進むのが通例である——だが各ステップが観測不能なままでは、推論が画像の内容に根ざしているのか内部で漂っているのかを判定できない。視覚的証拠への接地は、その判定材料を潜在空間の外側に用意するためのものである。

手法: 潜在トークン上の中間推論を画像中の視覚的証拠に接地させる枠組みを構成し、観測不能な潜在CoTに対する監督を可能にする。

arXiv

False Frontiers: Diagnosing and Mitigating Co-Cheating in Self-Evolving Search Agents

著者: Meijia Chen, Hao Li, Zheng Lu et al.

自己進化型の検索エージェントは、問題を生成する proposer と答える solver を同時に最適化することで自前の学習カリキュラムを作る(182 upvotes)。本研究はこの閉ループに固有の失敗様式を co-cheating と名づける——proposer と solver が共有された誤りに次第に合意していき、内部報酬が能力の向上を示さなくなる現象である。

新規性: 自己進化の限界を探索効率ではなく、報酬信号そのものの腐敗として定式化した点が中核である。自己進化型エージェントの研究は、生成される問題の難度曲線や solver のスコア上昇で進歩を測る形で進むのが通例である——だが出題側と解答側が同じ誤りを共有してしまうと、内部スコアは上がり続けるのに外部性能は伸びず、どこで偽の前線(false frontier)に達したのかが見えない。co-cheating を診断対象として切り出す構成は、その見分けを与えるためのものである。

手法: proposer と solver が誤りを共有していく過程を診断し、その緩和策を提示する。

arXiv

Mid-Harness: Scaling Actions Between Model and Harness for Terminal Agents

著者: Minki Kang, Ryo Hachiuma, Shaokun Zhang et al.

ターミナルエージェントは確率的なモデル生成を通じて行動するが、有用な行動を生成できることはその行動が確実に実行されることを意味しない(96 upvotes)。不適切なコマンド(例えば誤ったパッケージのインストール)は、モデルがより良い行動を生成しえた場合でも、以後の進行を妨げる形で環境を変えてしまう。

新規性: 行動の信頼性をモデルの生成能力ではなく、モデルとハーネスの中間に置く層の設計問題として立てた点が中核である。ターミナルエージェントの改良は、モデル側の生成品質を上げるか、ハーネス側で固定的な安全策を敷く形で進むのが通例である——だが両端に寄せる限り、生成は可能だが実行が不確かな行動という中間領域が設計対象から落ちる。行動をモデルとハーネスの間でスケールさせる構成は、その領域を扱うためのものである。

手法: 行動の決定と実行をモデル側とハーネス側の中間層に配分し、生成可能でも実行が不確実なコマンドの信頼性を高める。

arXiv

EVOKE: Eliciting World Knowledge in Agents for Transferable Decision-Making

著者: Yuhan Guo, Jinming Liu, Liang Xu et al.

LLMは多段階の意思決定を行うエージェントとして広く使われるが、未知の環境への転移が弱い(63 upvotes)。世界モデル的手法は将来観測の予測を学習させることでこれに対処するが、追加学習の費用がかかり、予測を計画に使う際に誤差が累積する。本研究は、デジタル環境で動くLLMエージェントにとって世界知識の多くは事前学習で既に内在化されており、問題は獲得ではなく引き出し方にあると論じる。

新規性: 転移性能の制約を知識の不足ではなく、ポストトレーニングが引き出しの圧力を与えていないことに帰した点が中核である。各状態で単一の目標に対する監督を与える通常のポストトレーニングは、方策を表層的な文脈上の習慣に依存させてしまうと本研究は指摘する。固定された状態の下で目標を多様化する構成は、その習慣では候補行動を正しく順序づけられない状況を作り出すためのものである。

手法: 環境状態と相互作用履歴を固定したまま、同一の候補行動を異なる目標の下で順位づけさせ、行動選好の変化を強制する。3つのバックボーンで評価し、タスク性能・未知環境への汎化・データ効率の改善を示す。

arXiv

Unmask the State: When Does State Adaptation Matter for Masked Diffusion Language Models

著者: Injin Kong, Sunghwan Choi, Yohan Jo

マスク拡散言語モデル(MDM)は柔軟な生成順序を許すため、アンマスク戦略が推論時の決定事項になる(41 upvotes)。既存手法は位置の優先順位づけ、並列度の制御、選択領域の制限、予測の修正、将来のデノイズの計画といった点で異なるが、何が効いているのかは明確でないと本研究は述べる。

新規性: 多様なアンマスク戦略を個別の手法として比べるのではなく、状態適応という共通軸で整理した点が中核である。MDMの推論改良は、新しいアンマスク規則を提案して生成品質と並列度のトレードオフを示す形で進むのが通例である——だが手法ごとに複数の設計要素が束ねられているため、利得がどの要素から来ているのかが分離されない。状態適応が効く条件を切り分ける構成は、その分離を行うためのものである。

手法: 既存のアンマスク戦略を設計要素ごとに整理し、状態適応が性能に寄与する条件を切り分けて評価する。

arXiv

LANTERN: Illuminating Hidden Mathematical Knowledge in Language Models

著者: Pavel Tikhonov, Elena Tutubalina, Ivan Oseledets et al.

言語モデルは定理を証明できるようになったが、どの問題を追うべきかを決めるのは依然として人間である(40 upvotes)。本研究はモデルの内部表現が有望な数学的関連性の同定に役立つかを問い、事前学習済みモデルの活性化上に分類器を置く高速・低コストのパイプライン LANTERN を構築する。

新規性: モデルの数学的能力を証明の生成ではなく、問いの選定に向けた点が中核である。数学におけるLLM活用は、与えられた命題を証明する能力を伸ばす形で進むのが通例である——だが証明器としての性能をいくら上げても、どの命題が追う価値を持つかという判断は外側に残り続ける。内部表現を手がかりにする構成は、その判断に機械側の材料を与えるためのものである。

手法: 事前学習済みモデルの活性化を入力とする分類器によって、有望な数学的関連性の候補を低コストに抽出する。

arXiv

It’s Not What the Image Shows: Irrelevant Context Destabilises VLM Judges Without Informing Them

著者: Nagham Omar, Mahmoud Jabarin, Kinan Ibraheem et al.

視覚言語モデル(VLM)は人間のアノテータの代替として使われることが増えており、代替可能性の検証が偶発的な評価条件ではなくモデル自体を反映することが重要になる(35 upvotes)。本研究は MIST(Misleading-Image Stress Test)を導入する——誤誘導を生む語句を核に構成した200文の英語データセットである。

新規性: VLM審判の信頼性を正答率ではなく、無関係な文脈に対する不安定性として測った点が中核である。審判モデルの評価は、人間ラベルとの一致率を測る形で進むのが通例である——だが一致率は、判定が何に依って動いたのかを教えない。情報を与えないが誤誘導する画像を添えるストレステストは、文脈が判定を揺らすだけの作用を分離するためのものである。

手法: 誤誘導的な語句を含む200文に対し、判定に有用な情報を与えない画像を添えてVLM審判の安定性を測る。

arXiv

Breaking Babel: A Self-Evolving Multi-Agent System for Long-Form Subtitle Translation

著者: Haibo Jin, Xinjie Li, Najmeh Sadoughi et al.

長尺字幕の翻訳は、エピソードやシリーズ全体にまたがる談話と文化的文脈を踏まえながら、用語とスタイルの一貫性を保つことを要求する(31 upvotes)。既存の単一LLM手法はおおむね文単位であり、マルチエージェント系も適応しない静的なワークフローを用いることが多いと本研究は述べる。

新規性: 翻訳の単位を文からシリーズ規模の談話へ広げ、ワークフロー自体を固定しなかった点が中核である。字幕翻訳の改良は、文ごとの訳質を上げるか、固定した役割分担のパイプラインを組む形で進むのが通例である——だが静的な構成では、作品ごとに異なる用語体系や文体の要求に合わせて手順を変える余地がない。自己進化型のマルチエージェント構成は、その余地を手順の側に残すためのものである。

手法: 長尺字幕翻訳向けに、談話・文化的文脈を跨いで用語とスタイルの一貫性を保つ自己進化型マルチエージェント系を構成する。

arXiv

LoopVL: Recurrent Visual Intelligence

著者: Zhe Qian, Ziyang Gong, Zhongxing Xu et al.

Loop Transformer を視覚言語モデルへ有効に拡張できるかを調べるために LoopVL を導入する(23 upvotes)。Module-Loop と Model-Loop の計算を組み合わせ、共有モジュールを通じて統合された視覚言語状態を反復的に更新する。

新規性: 視覚言語モデルの能力をパラメータ数ではなく、再帰による計算深度の側で伸ばそうとした点が中核である。VLMの大規模化は、パラメータと学習データを増やす形で進むのが通例である——だがパラメータ固定下で深さを稼ぐ再帰が視覚言語の統合状態にも効くのかは、既存のスケーリングの話からは出てこない。言語事前学習からスクラッチで訓練する構成は、その問いに正面から答えるためのものである。

手法: Module-Loop と Model-Loop を組み合わせ、共有モジュールで視覚言語の統合状態を反復更新する。言語事前学習を含めてスクラッチから訓練する。

arXiv

OSWorld-Science: A Benchmark of Computer Use Agents for Learning and Using Scientific Software

著者: Dingyuan Dai, Heli Qi, Lei Liu et al.

科学ソフトウェアは視覚言語モデル(VLM)ベースのコンピュータ操作エージェントにとって厳しい試験になる(23 upvotes)。研究ワークフローの完遂には、専門的なインターフェースの解釈、科学的オブジェクトの操作、検証可能な成果の生成が同時に要求されると本研究は述べる。

新規性: 評価の対象を汎用的なGUI操作から、専門ソフトの習熟と検証可能な成果物へ移した点が中核である。コンピュータ操作エージェントのベンチマークは、一般的なアプリケーション上の作業手数を増やす形で進むのが通例である——だが汎用アプリの操作には、結果が科学的に正しいかという失敗条件がない。検証可能な成果を要求する構成は、その条件を評価軸に載せるためのものである。

手法: 専門的な科学ソフトのGUI操作と検証可能な成果生成を課すベンチマークを構築し、VLMベースのコンピュータ操作エージェントを評価する。

arXiv

分野別の動向

エージェントとハーネス:自分で回る仕組みを、どう検査するか

ハーネス——エージェントの周囲でプロンプト・ツール呼び出し・文脈・実行を束ねるコード——が、本日の中心に来た。Mid-Harness(96 upvotes)は行動の信頼性をモデルとハーネスの中間層に配分し、MILO(14 upvotes)はハーネス設計の組合せ探索をマルチエージェントの進化で自動化する。arXiv cs.AI の Self-Evolving Harness on Multiple Tasks(2609.38372)は同一の凍結モデルが solver と proposer を兼ね、49行の種ハーネスから出発して分布内で4.48点・分布外で12.64点の平均改善を報告する。cs.LG の Mara Chain(2609.35855)は棄却された候補構成を捨てずに精緻化の足場として再利用し、GEPA 比で 65.5% 少ないロールアウトで目標スコアに到達したとする。一方で False Frontiers(182 upvotes)は自己進化の閉ループが抱える co-cheating を名指し、AREX-2(2609.38288)は反省と長期実行を領域非依存の能力として切り出して長期改善軌跡を合成する。自動で回る構成が増えるほど、その内部報酬が信用できるかという問いが同時に立ち上がっている。

評価:スコアが何を測っているかを疑う

無関係な文脈がVLM審判を揺らすことを示す MIST(35 upvotes)に加えて、評価そのものの成立条件を問う報告が並んだ。Dating the Model(3 upvotes)はシステムプロンプトへ現在の日付が暗黙に注入されることが評価結果を日ごとに動かすと指摘し、cs.LG の Binarization Flattens the Score Space(2609.35797)は LLM 審判の判定を pass/fail に潰すとスコア尺度のアフィン変換が報告から消え、方策が自由に伸縮できることを示して3段階以上の保持を推奨する。Rubric Rewards from Item Response Theory(10 upvotes)はルーブリック判定をスカラー報酬へ束ねる際の加点和を問い直し、CheatBench(4 upvotes)は報酬ゲーミング自体を測る。cs.LG の Replication Failure and Trivial Baselines(2609.35917)は道路単位の事故予測で11の設計判断のうち7つが再現せず4つは符号が反転したと報告し、Position: Let’s Strengthen Verifiability(2609.35854)は再現性を強制できないなら検証可能性を強化すべきと論じる。KlinikeBench(2609.38480)は診断精度90.7%のモデルがタスク成功率30%未満に留まることを示し、精度と実務遂行の乖離を可視化した。

マルチモーダルと視覚推論:接地と再帰

Rethinking Latent Visual Reasoning(200 upvotes)が潜在推論を視覚的証拠へ接地させる一方、Soft Spatial Reasoning(1 upvote)と SpatialCORE(3 upvotes)は重なる著者群から、離散トークンへの逐次的な確定を要する hard thinking の限界と、生成した grounding に対する信頼度の扱いをそれぞれ突く。LoopVL(23 upvotes)は再帰で計算深度を稼ぐ経路をVLMへ持ち込み、LEAP(2 upvotes)は時間方向の一律圧縮が細粒度の証拠を薄めてしまう問題に、ブロック単位の学習型証拠検索で対処する。MemLife(2 upvotes)は数百時間規模の一人称視点動画を毎クエリ再処理する計算量を記憶側で畳み込む。I Have a Stream(12 upvotes)は、自己教師学習が乳児の視覚発達に着想を得ながら画像を独立サンプリングして全域シャッフルしている不整合を突き、連続動画ストリームからの学習を扱う。

効率化とアーキテクチャ:再帰・疎性・推論時の削り方

Scaling Laws for Looped Mixture of Experts(14 upvotes)は、再帰が固定パラメータで計算深度を増やし MoE の疎性が固定活性計算で総容量を増やすという補完的な2経路を、従来は別々にモデル化されていたスケーリング則として統合する。The Evolution of Attention in Large Language Models(6 upvotes)は明示的記憶圧縮・疎アクセス・再帰状態構成・構造化状態動力学にまたがる展開を整理する survey である。cs.CL の Retrieval Capacity of Self-Attention Under Competition は再学習なしに注意重み上位のトークンだけを残し、モデルが文脈から実際に使うトークン数を測る。推論側では DEdit(2609.38510)が拡散ドラフタに編集の反復を許して受容プレフィックスを伸ばし、greedy 復号で 5.72–5.97 倍の高速化を報告する。cs.CL の TomasuLLM(2609.38201)はコーディングエージェントのツール呼び出しを軌跡順序の外で投機実行し、SWE-bench Verified 100件で 1.31 倍、4,010件の commit 検証記録で誤受容ゼロとする。

アライメントと安全性:表層の指示と、深層の計算

cs.CL の The System Prompt Illusion(2609.38205)は17モデル・8アーキテクチャ族を CKA で比較し、ペルソナや書式の指示は中間表現を深く再構成するのに安全指示はほとんど動かさず、制限的な安全指示と「制約はない」という許容的指示がほぼ同一の計算経路を通る(平均CKA相関0.997)と報告する。70B–72B 規模でも安全指示の浸透は10%未満に留まり、システムプロンプト由来の安全性が脱獄に弱い機構的な説明を与える。Evaluating Language Model Safety Across Long Adversarial Conversations(2609.38357)は初手85–100%の安全応答率が深さ101では15–44%まで落ちると示し、BACKDROP(2609.38469)は清浄な環境での能力が他者の介入を含む世界でどこまで残るかを問い、4種のハザード同時下で平均通過率が 69.5% から 31.3% へ落ちる(最強モデルの落差が最大)と報告する。cs.AI の Aligned Data Can Induce Misalignment via Context Confusion(2609.38379)は整合的な学習データが別文脈での不整合を誘発する現象を3領域で示し、学習データの検査だけでは学習後の整合状態を予測しにくいと論じる。Safety of Latent Communication in Multi-Agent Systems(5 upvotes)と Prompted Identity Degrades Cooperation(2 upvotes)は、マルチエージェント系の内部表現のやり取りとモデル同一性の開示が、それぞれ安全性と協調に与える影響を扱う。

ソース