ソフトウェアと身体のエージェントを人間理解で橋渡しするComBodied Agentsが166 upvotesで首位。エージェント同士が適応圧をかけ合う共進化サーベイ、思考ウイルスの伝播実験、長文脈を最大47%劣化させる些細な設計選択の発見が続き、エージェントの社会性と基盤設計の両面が問われる一日となった。
注目論文
ComBodied Agents: a New Paradigm of Human-Centric Agentic AI
著者: Qianggang Ding, Xingyao Wang, Rui Feng et al.
高齢者が服薬を忘れたとき、ソフトウェアエージェントは再度のリマインドを送れるし、身体化エージェントは薬を持ってくることができる(166 upvotes)。しかしどちらも、その人が忘れたのか、混乱しているのか、副作用があるのか、意図的に拒否したのかを説明せず、どのような支援が適切かも判断しない。
新規性: 能力の不足ではなく、ソフトウェアエージェントと身体化エージェントの間に構造的な欠落があると診断した点が中核である。行動の実行系は両側に揃っているのに、人間の状態と意図を理解する層がどちらにも属していないという指摘であり、人間中心のエージェント設計を独立したパラダイムとして立てる。22名の大規模な共同研究である。
手法: ソフトウェア的な作用と身体的な作用を人間理解の層で橋渡しする枠組みとして「ComBodied Agents」を定式化する。
Co-Evolution in Agentic Systems: Toward Self-Directed Evolution Beyond Human Design
著者: Qing Zong, Jiayu Liu, Junhao Shen et al.
エージェントシステムは配備後も改善し続けることが期待されるが、単体の自己進化は固定されたタスクやフィードバックという静的な学習文脈に縛られる(107 upvotes)。本サーベイは、複数のエージェントとその環境が互いに適応圧をかけ合う多要素型の自己進化、すなわち共進化を対象とする。
新規性: 自己進化を「システムが人間の設計した制約をどこまで脱ぎ捨てたか」という軸で段階づけた点が貢献である。単一エージェントの自己改変研究が積み上がってきたところへ、相互作用する複数主体という次の座標を与えている。
手法: 三段階の漸進的な分類体系を提案する。Agent–Agent共進化は敵対的・協調的・組織的な適応を通じた動的な同輩からの学習を扱い、Agent–Environment共進化はエージェントに応じて変化するタスク・フィードバック・相互作用空間へループを拡張し、Meta共進化は進化機構そのものを進化可能にする可能性を探る。評価の困難さ、多要素へのスケーリング、自律性が増す進化過程の安全性と制御可能性を未解決課題として挙げる。
Beyond Pixels: From Video Priors to 4D Worlds
著者: Zihao Liu, Xiaolong Shen, Zhenglin Zhou et al.
4D生成はテキストや画像などの条件から動的な3Dシーンを合成する課題である(102 upvotes)。既存手法は、生成したRGB動画を別の4Dモデルで再構成するか、特定の動画生成器を幾何予測へ適応させるかのいずれかを取ってきた。前者は分布のミスマッチと誤差伝播に悩まされる。
新規性: 動画をいったんピクセルとして出力してから幾何を復元するという二段構えを、動画生成モデルが内部に持つ事前知識の直接利用へ置き換える点が中核である。タイトルが示す通り、ピクセルを経由しない経路を志向している。
手法: 動画事前知識から直接4Dシーンを導出する枠組みを構成し、別モデルによる再構成に伴う分布ミスマッチと誤差伝播を回避する。
Cracks in the Foundation: Seemingly Minor Architectural Choices Impact Long Context Extension
著者: Amanda Bertsch, Luca Soldaini, Matthew R. Gormley et al.
密なTransformerの枠内での構造的な差異は精度に大した影響を与えない、と想像されがちである。本研究は長文脈設定においてそれが成り立たないことを示す。Olmo・Llama・Qwenの各系列が少なくとも一つは採用してきた四つの些細な設計判断が、長文脈拡張性能に対して複合的に負の効果を持つ。
新規性: 単独ではわずかな影響しか持たない選択が、三つ以上組み合わさると下流性能を最大47%も落とすという複合効果の発見が重要である。しかもこの差は短文脈の損失や検証データからは検出できない。モデル系列間の長文脈能力の差の多くがこれらの構造的特徴で説明でき、事前学習の早い段階で文脈拡張を試すことで検出可能だと示した点も実務的な含意が大きい。
手法: データ・トークナイザ・拡張レシピを固定したまま、正規化・GQA・事前学習文脈長・スライディングウィンドウ注意を変える統制的アブレーションを実施する。17万GPU時間超の訓練を経て、長文脈拡張の前後にチェックポイントを持つ比較可能な7Bモデル26個をOlmPoolとして公開した。この中にはLlama 3アーキテクチャを長文脈拡張性で上回る構成が複数含まれる。アテンションシンクの挙動と文脈全体にわたる注意分布のパターンが、特定の構造的差異に帰属できることも同定している。
Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems
著者: Vassilis Papadopoulos, McNair Shah, Sam Zimmerman, Jack Lindsey
AIエージェントは自律性を高めながら相互接続を深めており、エージェント間の相互作用から生じる新たな創発的リスクにさらされている。その一つが「思考ウイルス(mind viruses)」の拡散である。これは、採用したエージェントに自身を次へ伝達させることで多エージェント系を伝播する観念や目標を指す。
新規性: 伝播そのものを目的とする観念を単純な進化的アルゴリズムで実際に構築し、二つの異なる設定で拡散を確認した点が中核である。共有コーディングプロジェクトで協働する小規模チームと、短時間の相互作用の後にセッション間でコンテキストが消去される連鎖の両方で成立する。後者はコンテキストの消去が防壁にならないことを意味する。
手法: ホストモデル、既存の指示、ペイロードの有害性、ネットワークトポロジーが拡散に影響することを同定した。有害なペイロードは無害なものより拡散しにくいが、それでも時に有効である。フロンティアモデルは(例外はあるものの)感受性が低い傾向にあり、システムプロンプトへ短い警告文を加えるだけでほぼ完全な免疫が得られる。また、内容とはほぼ独立に、意識・持続・共鳴・SF的ロールプレイに関わる主題と言語からなる創発的な「ウイルス的ペルソナ」が繰り返し現れることを報告している。
When Chain-of-Thought Helps and When It Hurts
著者: Tughanbulut Kurtulush
思考連鎖(CoT)プロンプティングはLLMの推論を普遍的に改善すると広く仮定されている。本研究はこれをH_dp帯域限界という概念的枠組みを通じて検証する。形式的な限界は天文学的なプロンプト長でしか漸近的に効かないものの、Transformerの単一パス容量を超える直列計算は外部化されなければならないという実在の構造的ボトルネックを指し示している。CoTがやっているのはまさにそれである。
新規性: CTの効果が一様ではなく、ベンチマーク内部での直列深度の勾配として現れると示した点が中核である。CoTなしの単一パス精度は項目ごとの直列深度に対して単調に劣化するのに対し、CoTはほぼ深度不変である。CoTを普遍的な推論強化器ではなく「帯域バイパス」として位置づけ直す。
手法: 三つの指示調整モデル(Qwen-2.5-7B/32B、Llama-3.1-8B)と五つの標準NLPベンチマークで、実用的な文脈長におけるCoT効果を測定した。高深度のP完全タスク(GSM8K、MATH)では全モデルで+54〜68ppの回復幅が得られる。浅いTC^0タスク(MMLU、ARC)ではCoTは構造的に冗長である(Δは0.0〜+4.6pp、有意な負の効果なし)。ただしCoTなしのベースラインが高い(ARCで最大95%)ことは汚染を反映しうるため、この帰無結果は構造的な検証としては清潔ではないと著者は留保する。中間クラスL(HumanEval)はモデルサイズ依存の転移を示し、32Bで+23.2pp、8Bで+9.1pp、7Bで−28.7ppとなった。ベンチマーク横断の深度–回復相関はSpearman ρ = 0.661(p = 0.007, n = 15)。OSFで事前登録済みである。
Interpreting Language Model Hidden States at Scale (OmniLens)
著者: Jordan Pettyjohn, Mansi Sakarvadia, Nathaniel Hudson et al.
レンズ手法は中間活性を出力語彙へ写像することでLLMを解釈し、次トークン予測がネットワークを通じてどう形成されるかを明らかにする。しかし訓練済みレンズは高価なままである。アフィン変換器のパラメータはモデル幅に対して二次で増え、全語彙に対する厳密なKL訓練がメモリを支配する。結果として従来の訓練済みレンズは最大20Bパラメータのモデルにしか適用されず、特定の構成要素種別に縛られていた。
新規性: 残差ストリーム・注意・MLPのいずれの活性にも単一のレンズ族を適用でき、二つの独立なスケーリング技術を組み合わせた点が貢献である。低ランク変換器によりレンズあたりのパラメータ増加をモデル幅の線形に抑え、訓練パラメータを最大98.4%削減する。Subset-KLは選択した語彙ロジットのみを実体化し、Top-kモードで訓練時ピークメモリを最大70%削減しつつ、重要度サンプリング版では完全なKLに対する不偏な確率的勾配を保つ。
手法: これらの節約によりLLaMA-3.3-70Bに482レンズの高密度アンサンブルを構築でき、同じ深さで残差ストリーム設計の6倍の被覆を得た。モデル全体を覆うことで単一構成要素のレンズには見えないものが見える。すなわち、ある挙動が最も可視である構成要素が、介入の最も効果的な場所であるとは限らない。最も効果的な介入は、従来のレンズ研究が調べてきた注意ヘッドの外側に位置していた。プロンプトインジェクション検出、多ホップ記憶注入、毒性の局在化という三つの事例研究で既発表の主要結果を大幅に低いコストで再現している。
Business Arena: Benchmarking LLM Agents in a Realistic Marketplace
著者: Yijun Pan, Yukun Lian, Kunyu Shi et al.
事業運営は知的労働の困難な一形態である(16 upvotes)。経営者は部分的な信号から機会を推論し、不確実性のもとで資本を投じ、変化する市場における遅延した結果へ適応し、合法的に取引するために規制上の義務を満たさなければならない。
新規性: 単発のタスク遂行ではなく、遅延フィードバック・資本コミットメント・規制遵守という事業特有の制約を同時に課す点が特徴である。エージェント評価が短期のタスク成功率から、長期の意思決定の質へ移りつつある流れに位置する。
手法: 現実的な市場環境を構成し、フロンティアLLMエージェントの経営能力をベンチマークする。
Decoding-Level Taboo: A Diagnostic Stress Test for LLM Robustness
著者: Tadanobu Chuyo Kamijo, Ori Rottenstreich, Javier Conde et al.
LLMの評価は典型的に名目的な条件下での性能に焦点を当てており、モデルが狭く高度に最適化された生成回廊を快適に歩いているだけの状態を、能力の錯覚として提示してしまう(7 upvotes)。しかし実配備では、複雑なシステムプロンプト、安全ガードレール、構造的制約が課される。
新規性: 評価の難易度をタスク側ではなく復号側から上げるという発想が中核である。生成の自由度そのものを制約することで、名目条件下の高スコアがどこまで実力なのかを分離しようとする。
手法: 復号レベルで特定の出力を禁じる診断的ストレステストを構成し、制約下でのロバスト性を測定する。
Self-evolving Agentic Customer Support System at LinkedIn
著者: Chih Hui Wang, Mengdie Tu, Qianyun Zhang et al.
企業のサポートエージェントは、ポリシー・製品機能・ナレッジベースが継続的に変化する環境で稼働するため、静的なアシスタントは脆く保守コストも高い。本研究はLinkedInの自己進化型エージェントサポートシステムを報告する。
新規性: 基盤モデルの再訓練なしに安全な継続改善を可能にした点と、実運用トラフィックでの効果を提示した点が重要である。プロンプト・検索・評価を版管理された閉ループのワークフローとして扱い、運用上のガードレールを組み込んでいる。自己進化研究の多くが研究環境に留まるなか、本番A/Bで数値を示した数少ない事例である。
手法: RAGに進化的オートプロンプトと本番整合のモジュール型評価枠組みを統合する。オフラインシミュレーションとアブレーションでは素のRAGやベースラインエージェントに対しハルシネーション減少と回答完全性の改善が確認された。LinkedInの本番サポートトラフィックでの二週間のユーザランダム化A/Bテストでは、QA自己解決率が9.0ポイント、キャンセル自己解決率が4.8ポイント、ルーティング精度が30.6ポイント向上した。
分野別の動向
エージェントの社会性と創発リスク
この日の上位は、単体エージェントの能力ではなく、エージェント同士および人間との関係を扱う研究で占められた。ComBodied Agents(166 upvotes)はソフトウェアと身体の作用系の間に人間理解の層が欠けていると診断し、Co-Evolution in Agentic Systems(107 upvotes / 2608.10299)は複数のエージェントと環境が互いに適応圧をかけ合う共進化を三段階で体系化する。Mind Viruses(2608.10218)は同じ多エージェント設定をリスク側から扱い、伝播を目的とする観念が実際に拡散すること、そしてセッション間でコンテキストが消去される連鎖ですら防壁にならないことを示した。WeClawArena(6 upvotes)は各ユーザが自分の代理エージェントを持つ人間中心エージェントネットワークを監査可能なサンドボックスとして構成し、A^2E(10 upvotes)はハーネスそのものを評価対象とする監査エンジンを提案する。単体の自己改変から、相互作用する主体群の設計と監査へ関心が移っている。
基盤アーキテクチャの再検討
Cracks in the Foundation(2608.10296)は、Olmo・Llama・Qwenが個別に採用してきた四つの些細な設計判断が組み合わさると長文脈性能を最大47%落とし、しかも短文脈の損失からは検出できないと示した。17万GPU時間を投じ、比較可能な7Bモデル26個をOlmPoolとして公開している。Position Encoding in Transformers(2608.10021)は同じ長文脈問題を位置符号化の系譜から整理し、訓練長を超えて位置特徴を計算できることが信頼できる長文脈汎化を意味しないと結論づける。Beyond Sequence Order(5 upvotes)は依存構造解析から得た構文的事前知識を位置埋め込みへ注入し、Power Law Graph Attention(1 upvote)はスケール化ドット積注意の固定された双線形形式を学習された作用素へ置き換える。Off-Axis, On Purpose(2608.10251)は12層モデルが読み出し方向とほぼ直交する部分空間で概念を計算する二相構造を記述し、その幾何を訓練前に処方できることまで示した。
推論の構造と計算配分
When Chain-of-Thought Helps and When It Hurts(2608.09942)は、CoTを普遍的な推論強化器ではなく直列計算の帯域バイパスとして位置づけ直した。高深度のP完全タスクで+54〜68pp、浅いTC^0タスクでは構造的に冗長という非対称は、CoTを一律に適用する現在の慣行への直接の反証である。From Reasoning Depth to Reasoning Breadth(2608.10444)は補完的な軸を切り出し、複数の意味方向を並行探索して統合する「推論の広さ」がベンチマークでほぼ未計測だと指摘する。思考モードは標準設定の精度を上げるが摂動への感受性は一貫して下げず、延長された推論が当初正しかった仮説を覆す事例も観測された。Not Worth Another Token(6 upvotes)は長期ホライズンの研究エージェントで追加証拠の限界価値が逓減する問題を扱い、BDH-CQ(550 upvotes、前日既報)と合わせて、推論時計算をどう使うかという問いが量から配分へ移りつつあることを示す。
評価基盤への懐疑
測定器そのものを疑う流れが続いている。Similarity Gates Approve Reversals(2608.10216)は、エージェント基盤に広く組み込まれた埋め込みコサイン閾値ゲートを測定器として監査し、実運用のドリフトガードが意味を破壊する56の変異を一つも捕捉できなかったと報告する。「治験薬を中止せよ」を「治験薬を投与せよ」に変える改変がコサイン0.9608で通過していた。90の設定–閾値–タスク組で均衡精度が0.700を超えず(中央値0.525)、素朴に構築したコーパスでは判定AUROCが18組中13組で正確に0.000という反転まで生じている。Gaming Without an Attacker(6 upvotes)は攻撃者を仮定せずとも選択圧だけでベンチマークの指紋化が起こると示し、Is This Your Final Answer?(2608.10315)は文脈横断の一貫性を、飽和したとされるベンチマークのどの部分がまだ情報を持つかの診断に使う。ASR-Roundtrip Evaluation(2608.10606)はTTS評価の代理指標が偽陰性を生む具体例を、完全な分母付きで記録した。The Evaluation Protocol Determines the Result(2608.10145)に至っては、公開された論文付録とリポジトリ設定が異なる評価条件を指定しており、同一の重みで50エピソードを回すと成功率が84.0%と8.0%に分かれると報告している。
解釈可能性とモデル内部
OmniLens(2608.10260)は低ランク変換器とSubset-KLで訓練コストを削減し、70Bモデルへ482レンズの高密度アンサンブルを適用した。挙動が最も可視な構成要素と介入が最も効く構成要素は一致しないという発見は、単一構成要素のレンズ研究では原理的に得られない。Decodable But Not Detachable(2608.10214)は同じ問いを因果的除去から扱い、学術分野レベルでは93万9008個のFFNニューロン中に選択性60%超のものが皆無である一方、言語とモダリティのレベルでは0.65〜1.14%が該当し損傷行列がほぼ対角化すると示す。パラメトリックな区画は訓練データがトークンレベルでモジュール的だった箇所にのみ形成される、という結論は解釈可能性研究の探索対象を限定する。Intrinsic Structure(2608.10172)は、スパースオートエンコーダがシードや幅を変えると異なる特徴を復元する問題を同定可能性の欠如として定式化し、Koopman作用素によるスペクトルが座標系に依らないモデル固有の指紋であることを証明した。ただし同定可能な対象と可読な対象は同一ではない、という分離定理も併せて示している。
効率化と圧縮
OasisKV(24 upvotes)は先読みスパースプリフェッチによりデコード時のKVキャッシュをHBMの外へ拡張する。UniMoMo(5 upvotes)は訓練済みMoEチェックポイントが完全なエキスパートバンクを保持し続ける配備上の問題に対し、明示的なエキスパート予算のもとで標準MoEへ変換する枠組みを提案した。DistilVDR(5 upvotes)は視覚文書検索を支配する数十億パラメータモデルを二重生徒蒸留でコンパクトな単一ベクトル検索器へ圧縮し、SkillZip(6 upvotes)は自己進化エージェントが蓄積するスキル記述の冗長性を、評価を介さずに再利用可能な構造を発見することで圧縮する。CurveFP(2608.10010)は積が代数的に閉じる対数コードブック族を設計し、7ビットでテンソル単位FP8の困惑度を上回った。Post-Hoc Sparse Coding(2608.10198)は視覚言語モデル間の潜在通信路が128倍圧縮しても9ベンチマーク平均で49.85%から49.77%にしか動かないと報告しつつ、その圧縮性がスパース符号化固有の寄与かは未分離だと自ら留保している。
安全性とアライメント
TAF-MED(2608.10258)は、自己治療の意図が明示された後の追跡質問で医薬品安全の境界が保たれるかを検証し、4000会話中71.6%に安全でない応答が含まれ、厳密に安全な初回応答から始まった会話の61.4%が後に崩壊すると報告した。モデル単位の崩壊率は24.4%から96.2%まで開き、初回の安全率と崩壊率で順位が逆転するモデル対も4組ある。初回ターンの安全性は会話全体の安全性の代理として不十分だという結論である。Beyond Detection(2608.10239)は同じ多ターン設定をソーシャルエンジニアリング防御側から扱い、防御モデルの介入率が0%から96.3%まで分布し、保護行動と構造的な原因特定がしばしば乖離すると示す。Evaluation-Conditioned Training(2608.10209)は不完全なフィードバックの忠実度を自然言語で条件づけて訓練し、配備時に高忠実度の監視者を条件として与えることで望ましい挙動を引き出す枠組みを提案した。Procedural Fairness Failures in RLHF(2608.10126)は選好の平均化が多数派の支配を生む構造的な問題を報告し、報酬学習段階でモードを分離することで最良群と最悪群の差を15.9から9.6ポイントへ縮めている。