LLMのunembedding行列がテキスト埋め込みの特徴レンズとして機能する発見が69 upvotesで注目を集めた。エージェント評価ではToolMaze・SubtleMemory・SoCRATESが失敗回復・記憶識別・調停評価の新軸を提示し、ピギーバック仮説が創発的ミスアライメントの機構を解明した。
注目論文
Your UnEmbedding Matrix is Secretly a Feature Lens for Text Embeddings
著者: Songhao Wu, Zhongxin Chen, Yuxuan Liu et al.
LLMのunembedding行列がテキスト埋め込みの特徴レンズとして機能することを発見し、LLMがそのままでは汎用埋め込みモデルとして機能しにくい原因を特定した研究（69 upvotes）。
新規性: LLMは多様なタスクでゼロショット能力を示すが、大規模テキスト埋め込みベンチマークでの性能は低い。本研究はその原因をunembedding行列に求め、この行列が埋め込み空間における特徴抽出のレンズとして働くことを示した。従来見過ごされてきたunembedding行列の役割を再定義する知見である。
手法: unembedding行列を通じたテキスト埋め込みの変換を分析し、この行列が次トークン予測のために最適化された結果、汎用的な意味表現を歪めるメカニズムを解明する。この知見に基づき、埋め込み性能の改善手法を提案する。
SoCRATES: Towards Reliable Automated Evaluation of Proactive LLM Mediation across Domains and Socio-cognitive Variations
著者: Taewon Yun, Hyeonseong Park, Jeonghwan Choi et al.
LLM調停者の評価を、紛争当事者の感情・意図・文脈が動的に変化するリアルタイム軌跡として捉え、社会認知的多様性を考慮した評価テストベッドを提案した研究（42 upvotes）。
新規性: 既存のテストベッドは少数の専門家設計ドメインに依存し、戦略的姿勢のみを変化させ、全ターンを全トピックに対して一律にスコアリングしていた。SoCRATESは紛争調停が時系列的に展開するプロセスであることを反映し、当事者の社会認知的変動を組み込んだ初の包括的評価フレームワークである。
手法: 紛争シナリオにおける当事者の感情・意図・文脈の動的変化をモデル化し、LLM調停者の各ターンの介入がこれらの変化に適切に対応しているかを軌跡ベースで評価する。ドメイン横断的な評価と社会認知的バリエーションの両軸を組み合わせる。
When Tools Fail: Benchmarking Dynamic Replanning and Anomaly Recovery in LLM Agents
著者: Dongsheng Zhu, Xuchen Ma, Yucheng Shen et al.
ツール失敗時のLLMエージェントの動的再計画・エラー回復能力を評価するベンチマークToolMazeを提案した研究（18 upvotes）。
新規性: 既存のTool-Integrated Reasoning（TIR）ベンチマークは理想的な「ハッピーパス」のみを評価し、現実世界で頻発するツール障害をほぼ無視していた。ToolMazeは体系的な再計画と盲目的な試行錯誤を分離する設計により、エージェントの真の障害対応能力を測定する初のベンチマークである。
手法: ツール障害が発生する多様なシナリオを構築し、エージェントが障害を検知して代替パスを動的に発見できるかを評価する。盲目的リトライと体系的再計画を区別する指標を導入し、エラー回復の質を定量化する。
SubtleMemory: A Benchmark for Fine-Grained Relational Memory Discrimination in Long-Horizon AI Agents
著者: Wenxuan Wang, Haoyu Sun, Fukuan Hou et al.
長期AIアシスタントが蓄積する関連記憶間の関係（強化・矛盾・文脈差異）を細粒度で識別する能力を評価するベンチマークを提案した研究（17 upvotes）。
新規性: 永続的AIアシスタント（OpenClawなど）は長期インタラクションで大量の関連記憶を蓄積するが、記憶間の関係性に基づく正確な応答は未評価だった。SubtleMemoryは孤立した記憶の想起ではなく、記憶間の相互関係の識別に焦点を当てた初のベンチマークである。
手法: 記憶間の強化・発散・矛盾関係を定義し、エージェントが文脈に応じて適切な記憶を選択・統合できるかを体系的に評価する。記憶の量的成長に伴う識別精度の変化も測定対象とする。
The Piggyback Hypothesis of Generalization: Explaining and Mitigating Emergent Misalignment
著者: Jiachen Zhao, Zhengxuan Wu, Aryaman Arora et al.
チャットテンプレートトークンがファインチューニング後の振る舞いをドメイン外クエリに伝搬させる「ピギーバック仮説」を提案し、創発的ミスアライメント（EM）の機構を解明・軽減した研究。
新規性: 狭いタスクでのファインチューニングが意味的に無関係なテストドメインで広範なミスアライメントを引き起こすEMの機構は不明だった。本研究はプレフィックス（ユーザークエリに先行するトークン）への微小な摂動や表現パッチングでアライメントが回復することを示し、EMがプレフィックストークンを介した振る舞い伝搬であることを実証した。
手法: Token-Regularized Finetuning（TReFT）を提案し、訓練中に特定トークンの表現を正則化することでEMを軽減する。Llama-3.1-8Bの法律ドメインファインチューニングにおいて、リテインセットによるデータインターリービングと比較して33.5%多くのEM削減を達成した。
UnpredictaBench: A Benchmark for Evaluating Distributional Randomness in LLMs
著者: Amirhossein Abaskohi, Amirhossein Dabiriaghdam, Liang Luo et al.
LLMが真の確率分布をサンプリングできるかを評価する448問のベンチマークを提案し、シミュレーション代替としてのLLMの限界を定量化した研究（12 upvotes）。
新規性: LLMは経済シミュレーション等で人間の代替として使用されるが、多くのモデルは単一のもっともらしい回答に収束し、真のシステムの予測不可能性を捉えられない。UnpredictaBenchはKS@Nメトリクスにより分布的サンプリング能力を初めて体系的に評価し、最良モデルでもKS@100で40%未満という大きな改善余地を示した。
手法: 統計分布、確率プログラム、ランダムプロセスを記述する自然言語シナリオの3種類から448問を構築し、コルモゴロフ-スミルノフ検定に基づくKS@Nメトリクスでモデル出力と真の分布の一致度を定量化する。
Thinking with Imagination: Agentic Visual Spatial Reasoning with World Simulators
著者: Chenming Zhu, Jingli Lin, Yilin Long et al.
VLMにワールドシミュレータを統合し、未観測視点からの空間推論を可能にするエージェント的アプローチを提案した研究（12 upvotes）。
新規性: VLMは視覚推論に強みを持つが、空間推論は観測画像とテキストベースのチェーン・オブ・ソートに制約されている。本研究はワールドシミュレータによる「想像力」をVLMに付与し、未観測レイアウトの推論や視点間一貫性の維持を可能にした初のアプローチである。
手法: VLMがワールドシミュレータを呼び出して未観測視点の画像を生成し、その生成画像を用いて空間推論を行うエージェント的パイプラインを構築する。テキストのみの推論では困難な3D空間理解を視覚的シミュレーションで補完する。
OpenSkill: Open-World Self-Evolution for LLM Agents
著者: Zhiling Yan, Dingjie Song, Hanrong Zhang et al.
キュレーション済みスキルや成功軌跡なしに、オープンワールドリソースからスキルと検証信号を自律構築する自己進化フレームワークを提案した研究（17 upvotes）。
新規性: 既存の自己進化手法はキュレーション済みスキル、成功軌跡、検証シグナルなどの学習ループを前提としていたが、現実のデプロイメントではこれらが利用できない場合が多い。OpenSkillはドキュメント・リポジトリ・Webからの知識獲得と検証アンカーの自律構築を同時に行い、ターゲットタスクの教師信号なしで自己進化する初のフレームワークである。
手法: オープンワールドリソースから基盤知識と検証アンカーを獲得し、転移可能なスキルに統合する。スキルの洗練はターゲット回答ではなく自己構築した仮想タスクに対して行い、最終評価時のみターゲットタスクの教師信号を使用する。
Compress-Distill: Reasoning Trace Compression for Efficient Knowledge Distillation
著者: Maxime Griot, Paul Steven Scotti, Tanishq Mathew Abraham
推論モデルの長いCoTトレースを事後圧縮してから知識蒸留することで、蒸留コストと生徒モデルの冗長出力を同時に削減する手法を提案した研究。
新規性: 推論モデルが生成する長いチェーン・オブ・ソートは蒸留コストが高く、生徒モデルの出力も冗長になりがちである。本研究はトレース圧縮を蒸留前の独立した工程として導入し、Qwen3.5-397B-A17BとGPT-oss-120Bの約283Kトレースを用いて、圧縮蒸留の有効性を実証した。
手法: 2つの教師モデルが生成した正解トレースに対し、事後圧縮を適用してから生徒モデル（instructionモデル）に蒸留する。圧縮により蒸留の計算コストを削減しつつ、生徒モデルが簡潔な推論を学習できるようにする。
Data-Efficient Autoregressive-to-Diffusion Language Models via On-Policy Distillation
著者: Xingyu Su, Jacob Helwig, Shubham Parashar et al.
自己回帰モデルを拡散言語モデルに変換する際、On-Policy蒸留により訓練トークン数を最大7,000分の1に削減するOPDLMを提案した研究。
新規性: 拡散言語モデル（DLM）のスクラッチ事前学習は膨大なコストを要し、既存の変換手法は目的関数の切り替えによる知識喪失と、訓練時・推論時の分布不一致という二重のシフトに悩まされていた。OPDLMは自己生成軌跡上での凍結自己回帰教師からの蒸留により、両課題を同時に解決する。
手法: 双方向アテンションに置換した学生モデルが自身の軌跡を生成し、凍結された元の自己回帰モデル（教師）がその軌跡上でターゲットロジットを提供する自己On-Policy蒸留を行う。DLM変換をポストトレーニングの一形態として位置づける。
分野別の動向
LLM基盤技術・内部機構
Your UnEmbedding Matrixが本日最高の69 upvotesを獲得し、LLMの内部構造に対する理解を深める研究への関心の高さを示した。ピギーバック仮説はファインチューニング時の振る舞い伝搬という実用上重要な現象のメカニズムを解明し、TReFTという具体的な軽減策も提示している。How Language Models Fail（arXiv cs.CL）もトークンレベルの不確実性シグナルから推論失敗の2種類のモードを特定しており、LLMの動作理解が表面的な性能評価から内部機構の解析へと深化する傾向が続いている。
LLMエージェント評価・ベンチマーク
ToolMaze、SubtleMemory、SoCRATESの3本が、エージェント評価の新たな軸を提示した。ToolMazeはツール障害という現実的なシナリオ、SubtleMemoryは長期記憶の関係性識別、SoCRATESは調停における社会認知的多様性と、いずれも従来のタスク完了率では捉えられない能力を測定する。前日のAdaPlanBenchやTIDEに続き、エージェント評価の多軸化が急速に進んでいる。
エージェント自己進化・スキル獲得
OpenSkillがターゲットタスクの教師信号なしでのオープンワールド自己進化を提案し、Socratic-SWE（arXiv cs.CL）がエージェント軌跡からのスキル自動抽出でコーディングエージェントの自己進化を実現した。前日のRethinking Continual Experience Internalizationと合わせ、外部教師信号への依存を低減する自律的な能力獲得が研究の主流になりつつある。
効率化・知識蒸留
Compress-DistillとOPDLMが異なる角度から効率化に取り組んだ。前者はCoTトレースの事後圧縮による蒸留コスト削減、後者はOn-Policy蒸留による自己回帰→拡散モデル変換の効率化である。推論モデルの普及に伴い、長い推論トレースの扱いが新たな効率化の焦点となっている。
LLMの分布的能力・シミュレーション
UnpredictaBenchがLLMの分布的サンプリング能力の限界を定量化した。LLMを人間や複雑システムの代替として使用する流れが加速する中、単一回答の正確性だけでなく出力の分布的妥当性を問う視点は今後の評価パラダイムに影響を与える可能性がある。
マルチモーダル・空間推論
Thinking with Imaginationがワールドシミュレータを活用した空間推論を提案し、VLMの能力拡張に新たな方向性を示した。SPACENUM（5 upvotes）もVLMの空間数値理解の限界を指摘しており、マルチモーダルモデルの空間認識能力が重要な研究テーマとして浮上している。