Latent Reasoning with Normalizing Flowsが正規化フローによる潜在空間推論を提案し、SAGE-PTQが1ビット級量子化で従来手法を大幅に上回った。SABERはコーディングエージェントの運用安全性ベンチマークを提示した。
注目論文
Latent Reasoning with Normalizing Flows
著者: Guancheng Tu, Xiangjun Fu, Suhao Yu et al.
正規化フローを用いてChain-of-Thought（CoT）推論を潜在空間で実行する手法を提案した研究（5 upvotes）。離散トークン列による逐次推論の制約を克服し、連続潜在空間での並列的な中間計算を可能にする。
新規性: 既存のCoT推論はテキストトークンという離散的・逐次的・通信指向の媒体を強制するため、各推論ステップが言語化可能な形に制約される。本研究は正規化フローにより推論の中間計算を連続潜在空間に移すことで、言語化の制約なしに推論の表現力を拡張する初のアプローチである。テキストCoTが「通信のための推論」であるのに対し、潜在推論は「計算のための推論」を実現する。
手法: 正規化フローを推論トークン列の代替として導入し、入力から潜在空間への可逆変換を通じて中間推論状態を表現する。潜在空間での計算はトークン単位の自己回帰的生成に縛られず、より豊かな推論構造を学習できる。推論結果は逆変換により出力空間に復元される。
Minimizing the Hidden Cost of Scales: Graph-Guided Ultra-Low-Bit Quantization for Large Language Models
著者: Rayyan Abdalla, Amir Hussein, Min Wu, Dinesh Manocha
グラフ誘導型の超低ビット量子化フレームワークSAGE-PTQを提案し、LLaMA-3-8Bにおいて平均1.03ビット精度でBiLLMを大幅に上回る性能を達成した研究。
新規性: 既存の超低ビットPTQ手法は固定的な重み顕著性の仮定や位置ヒューリスティクスに依存し、隠れたスケーリングオーバーヘッドが大きかった。SAGE-PTQは分布統計により顕著/非顕著重みを分離し、非顕著重みをスパースグラフとしてモデル化することで層ごとの最適グループ数を推定する。スケーリングビットを行列あたり平均0.004ビットまで削減した点が画期的である。
手法: 顕著重みにはマルチビット精度、非顕著重みには二値化を適用するデュアルモード量子化を採用。顕著重みにはチャネルごとのスケール1つ、非顕著グループにはスカラー1つのみを使用。適応的顕著性閾値により行列ごとの最適比率を選択する。LLaMA-3-8BでWikiText2パープレキシティ6.74（BiLLMは55.8）、BiLLMの50%未満のGPUメモリで動作し、LLaMA-2-70Bでは1.5倍の高速デコードを実現した。
SABER: Benchmarking Operational Safety of LLM Coding Agents in Stateful Project Workspaces
著者: Qi Hu, Yifeng Tang, Qinghua Wang et al.
LLMコーディングエージェントがステートフルなプロジェクトワークスペースにおいて安全に動作するかを評価する運用安全性ベンチマークを提案した研究。
新規性: 既存のベンチマークはモデルが危険なプロンプトを拒否するかどうかを評価するが、ステートフルなワークスペースへの影響（ファイルの破損、意図しない状態変更、連鎖的な副作用など）はほとんど検査されていなかった。SABERは個別の応答安全性ではなく、アクション列がプロジェクト状態に与える累積的な影響を評価する初のベンチマークである。
手法: ステートフルなプロジェクトワークスペースを構築し、LLMコーディングエージェントの一連のアクションがワークスペースの状態にどのような影響を与えるかを体系的に測定する。単発のプロンプト拒否テストではなく、現実的な開発シナリオでの連続的な操作の安全性を評価する。
分野別の動向
LLM推論・効率化
Latent Reasoning with Normalizing Flowsが推論プロセスを潜在空間に移す新パラダイムを提案した。前日のState Commitment Learning（計算と記憶の区別）やReasoningFlow（推論トレースのDAG構造化）と合わせ、3日連続で推論プロセスの内部構造に切り込む研究が登場している。SAGE-PTQの1ビット級量子化も、推論コスト削減の文脈で重要な進展である。arXivからはThe Shadow Price of Reasoning（推論予算の経済学的最適配分）も登場し、推論コストの理論的分析も進んでいる。
エージェント評価・ベンチマーク
SABERに加え、arXivからAgents’ Last Exam（ALE、250+業界専門家と共同開発した1000+タスクの経済的価値重視ベンチマーク、最難関層の平均パス率2.6%）、SentinelBench（長時間監視タスクの評価）、ForeSci（前向き研究判断の評価）が登場した。前日のArcANE、AdaPlanBench、TIDEに続き、エージェント評価の軸が「タスク完了率」から「運用安全性」「経済的価値」「長期監視能力」へと急速に多様化している。
マルチモーダル・動画・ロボティクス
LoomVideo（21 upvotes）がインターリーブされたマルチモーダル入力からの統合的な動画生成・編集モデルを提案し、Dream.exe（15 upvotes）は動画生成モデルの出力を現実のロボット操作に接続する試みを行った。RobotValues（23 upvotes）は家庭用ロボットが人間の価値観の衝突に直面した際の行動選択を評価するベンチマークを提示。Personal AI Agent for Camera Roll VQA（18 upvotes）はパーソナルカメラロールからの質問応答という実用的なタスク設定を提案した。動画・ロボット・パーソナルAIの各領域で、実世界との接点を強化する方向が共通している。
マルチエージェント・通信効率
arXivからPACT（Protocolized Action-state Communication and Transmission）が登場し、エージェント間の自由形式通信をコンパクトなアクション状態レコードに射影することでトークン使用量を削減しつつ性能を維持・向上する手法を提案した。OpenHandsの解決率向上（トークン10%削減）やSWE-agentでの入力トークン半減を実証しており、マルチエージェントシステムの実用的な通信設計として注目される。
AI安全性・ガバナンス
arXivからZero Knowledge Verification for Frontier AI Trainingが登場し、フロンティアAI訓練のゼロ知識証明による検証アーキテクチャを提案した。約36ヶ月以内に訓練側オーバーヘッド数パーセントで実証可能と推定している。LLM Anonymization Against Agentic Re-Identificationはエージェント型LLMによる再識別攻撃に対するテキスト匿名化の課題を提起し、Stability vs. ManipulabilityはLLM-as-Judge評価の事後操作可能性を実証した。AI安全性が技術的検証・プライバシー・評価信頼性の3方向から同時に研究されている。