LLaTiSAがLLMによる時系列推論の難易度別体系化で81 upvotesを記録。Expert UpcyclingがMoEの計算効率フロンティアを押し上げ、Co-Evolving AgentsとHybrid Policy Distillationがエージェント・蒸留分野で堅実な成果を示した。
注目論文
LLaTiSA: Towards Difficulty-Stratified Time Series Reasoning from Visual Perception to Semantics
著者: Yueyang Ding, HaoPeng Zhang, Rui Dai et al.
LLMによる時系列の包括的理解は依然として大きな課題であり、既存研究は断片的なタスク定義と曖昧さを含むベンチマークに阻まれている。LLaTiSAは視覚知覚から意味理解まで難易度別に体系化したベンチマークと統一的な時系列推論モデルを提案した（81 upvotes）。
新規性: 時系列推論を「視覚的パターン認識」から「意味的理解」まで段階的な難易度で体系化する初のフレームワーク。断片化していた時系列タスクを統一的に評価可能にし、LLMの時系列推論能力の厳密な評価と統一モデルの開発基盤を提供した。
手法: 時系列推論タスクを難易度に応じて階層化し、視覚的パターンの認識（トレンド・周期性の検出）から意味的推論（因果関係・異常検知）まで段階的に評価するベンチマークを構築。統一的な時系列推論モデル（TSRM）の開発を通じ、各難易度レベルでの能力を系統的に検証した。
Co-Evolving LLM Decision and Skill Bank Agents for Long-Horizon Tasks
著者: Xiyang Wu, Zongxia Li, Guangyao Shi et al.
長期的なインタラクティブ環境はエージェントのスキル活用能力を評価する試金石であり、多段階推論・スキル連鎖・遅延報酬下での意思決定が要求される。本研究はLLMの意思決定エージェントとスキルバンクエージェントを共進化させる手法を提案した（18 upvotes）。
新規性: 意思決定とスキル獲得を別々に扱う従来手法に対し、両者を共進化させるアーキテクチャを導入。意思決定エージェントが利用可能なスキルに応じて戦略を適応させ、同時にスキルバンクが意思決定の結果から新たなスキルを蓄積・改善する双方向フィードバックループを実現した。
手法: LLMベースの意思決定エージェントとスキルバンクエージェントを分離して設計し、ゲーム環境での長期タスク遂行を通じて両者を反復的に共進化させる。スキルバンクは成功した行動パターンを抽象化・蓄積し、意思決定エージェントはスキルの組み合わせ戦略を学習する。
Expert Upcycling: Shifting the Compute-Efficient Frontier of Mixture-of-Experts
著者: Chaitanya Dwivedi, Binxuan Huang, Himanshu Gupta et al.
Mixture-of-Experts（MoE）はフロンティアモデルの主流アーキテクチャとなり、スパースなエキスパートルーティングで総パラメータとトークンあたりの計算を分離する。本研究は既存の密モデルからMoEへのアップサイクリングにより計算効率のフロンティアを押し上げる手法を提案した（15 upvotes）。
新規性: MoEのスケーリング則において、ゼロからの訓練ではなく既存の密モデルからのアップサイクリングがより計算効率的であることを実証。固定の活性計算量の下で、アップサイクリングがモデル品質とパラメータ数のトレードオフを改善することを示した。
手法: 訓練済み密モデルのフィードフォワード層を複数のエキスパートに分割・初期化し、スパースルーティングを導入してMoE化する。アップサイクリング後の追加訓練コストとモデル品質の関係をスケーリング則として定式化し、最適なアップサイクリング戦略を特定した。
Hybrid Policy Distillation for LLMs
著者: Wenhong Zhu, Ruobing Xie, Rui Wang et al.
知識蒸留はLLM圧縮の有力なパラダイムだが、その効果は発散方向・最適化戦略・データ体制の選択に複雑に依存する。本研究は既存の蒸留手法を統一的な視点で整理し、これらの設計選択を最適に組み合わせるハイブリッド手法を提案した（10 upvotes）。
新規性: LLM蒸留における設計空間を分解・統一的に整理した初の体系的研究。順方向・逆方向KL発散、オンポリシー・オフポリシーデータ、各種最適化戦略の相互作用を分析し、最適な組み合わせがタスクやモデルサイズに依存することを明らかにした。
手法: 既存の蒸留手法を発散方向（順方向KL / 逆方向KL）、最適化戦略（MLE / RL風）、データ体制（教師生成 / 生徒生成 / 混合）の3軸で分解。各組み合わせの効果を体系的に評価し、タスクに応じて最適な組み合わせを選択するハイブリッドフレームワークを構築した。
分野別の動向
LLM基盤技術・効率化
Expert Upcycling（15 upvotes）が密モデルからMoEへの効率的な変換手法を提案し、MoEアーキテクチャの実用的な構築パスを拡張した。同日のTemporally Extended Mixture-of-Experts Models（3 upvotes）もMoEのエキスパート切り替え頻度を削減してオフローディング効率を改善する研究を提示しており、MoEの運用効率化が複数の角度から進んでいる。Hybrid Policy Distillation（10 upvotes）はLLM圧縮の設計空間を体系化し、蒸留手法の選択に理論的な根拠を与えた。Convergent Evolution（6 upvotes）はTransformer・LSTM・線形RNNなど異なるアーキテクチャが共通の数値表現を学習することを発見し、言語モデルの表現学習に関する基礎的な知見を提供した。
時系列・ベンチマーク
LLaTiSA（81 upvotes）がLLMの時系列推論能力を難易度別に体系化する大規模ベンチマークで圧倒的な注目を集めた。LLMの応用領域が自然言語を超えて時系列データに拡大する中、評価の標準化と能力の段階的理解を可能にする意義が大きい。COMPASS（2 upvotes）は多言語PEFTにおける適応的意味サンプリングを提案し、言語間の負の干渉を抑制する手法でLLMの多言語能力評価にも貢献している。
エージェント・自律システム
Co-Evolving Agents（18 upvotes）が意思決定とスキル獲得の共進化フレームワークで長期タスクに取り組んだ。同日のVLAA-GUI（14 upvotes）はGUI自動化エージェントの早期停止・反復ループ問題に対するモジュラーフレームワークを、Self-Evolving Framework for Terminal Agents（18 upvotes）は観察コンテキスト圧縮によるターミナルエージェントの効率化を提案した。エージェント研究が単純なタスク遂行から、長期的な学習・自己改善・効率的なコンテキスト管理へとシフトしている傾向が明確になっている。
マルチモーダル・生成
StyleID（20 upvotes）がスタイル変換された顔画像のアイデンティティ認識データセットとメトリクスを提案し、DeVI（24 upvotes）が物理ベースの器用なヒューマノイド物体操作を合成動画から学習する手法を示した。Exploring Spatial Intelligence（21 upvotes）は生成モデルの空間知能を評価する新たな視点を提供しており、マルチモーダルモデルの評価軸が視覚品質から空間的理解・物理的整合性へと多様化している。