多者間対話の話者中心記憶 SpeakerMem-R1 が83 upvotesで首位、読み出し時に記憶を編成する Just-in-Time Memory が続き、エージェント記憶の設計時点を問う研究が並んだ。世界モデル側では HappyWorld-Bench が探索・干渉下での一貫性を評価軸に据え、RL側では PACT がトークン単位クレジットの数学的定義から入った。
注目論文
SpeakerMem-R1: Speaker-Centered Dual-Track Memory for Multi-Party Dialogue
著者: Haobo Zheng, Tan Tang, Yan Chen et al.
多者間設定における長期的な会話記憶は、長い会話から関連する内容を検索するだけでは足りないと本研究は述べる(83 upvotes)。誰が何を言ったのか、各発言が誰について述べたものなのか、個々の参加者が互いをどう認識しているのか、どの情報が集団で共有されているのか、そしてそれらの状態が時間とともにどう変化するのかを区別する必要がある。
新規性: 記憶の索引を発言内容から話者へ移した点が中核である。会話記憶の研究は、過去の発話を意味的な近さで検索して文脈に戻す形で進むのが通例である——だが参加者が3人以上になると、同じ命題が「誰の発言か」「誰についての言及か」で意味が変わり、内容だけを手がかりにした検索では取り違えが起きる。話者を単位に置く構成は、その区別を記憶側に持たせるためのものである。
手法: 話者を中心に据えた二系統(dual-track)の記憶構造を採り、発言の帰属・言及対象・相互認識・集団で共有された情報とその状態変化を保持する。
Spatial-Interactor: Learning Spatial Reasoning through Interaction with the Observable Physical World
著者: Kaixiang Yao, Xu Wang, Miao Pan et al.
空間推論は、視覚言語モデル(VLM)が物理世界を理解し行動するために不可欠である(47 upvotes)。動的な環境での推論では、物体の運動や視点の変化によって生じる局所的な状態遷移を知覚し、それを長い軌跡にわたって統合して最新の状態把握を維持しなければならないと本研究は指摘する。
新規性: 空間推論の学習源を静的な画像・質問対から、観測可能な物理世界との相互作用へ移した点が中核である。VLMの空間能力の改善は、空間関係を問う注釈付きデータで教える形で進むのが通例である——だが動的環境では正しい関係が時々刻々変わり、一枚の場面に対する正解を覚えても軌跡上の更新には結びつかない。相互作用を通じた学習という構成は、局所遷移の積み上げをそのまま訓練信号にするためのものである。
手法: 物体の移動と視点変化がもたらす局所的な状態遷移を知覚させ、長い軌跡にわたって統合することで空間推論を学習させる枠組みを構成する。
HappyWorld-Bench
著者: Zhiqi Bai, Junai Cai, Yixin Chen et al.
世界モデルの評価には、生成される世界の品質だけでなく、探索・干渉・改変の下での一貫性と応答性の両方を測る必要がある(41 upvotes)。本研究は、エージェントが世界に働きかけたあとも生成された世界が信頼できるままかを評価する総合ベンチマークを提示する。
新規性: 評価の対象を生成物の見た目から、干渉を受けたあとの持続性へ移した点が中核である。世界モデルの評価は、生成された映像や場面の忠実度を測る形で進むのが通例である——だが世界モデルがエージェントの行動環境として使われる限り、問題は初期フレームの美しさではなく、探索や改変を経ても同じ世界が保たれるかどうかである。一貫性と応答性を並べて測る構成は、その持続性を評価軸に写すためのものである。
手法: 生成された世界の品質と、探索・干渉・改変の下での一貫性・応答性を併せて評価するベンチマークを構成する。
The Past Frames the Future: Memory for Autoregressive Video Generation
著者: Harold Haodong Chen, Rongjin Guo, Disen Lan et al.
生成モデルの進展により映像の忠実度が向上し、長尺生成・対話的な世界モデリング・変化し続ける視覚環境が可能になった(39 upvotes)。自己回帰(AR)映像生成は因果的なロールアウトで視覚系列を延ばすが、生成が進むにつれて根本的なボトルネックが現れると本研究は指摘する。
新規性: 長尺化の制約をモデル容量や生成品質ではなく、過去フレームの保持の仕方として捉えた点が中核である。AR映像生成の改善は、フレームあたりの品質やロールアウトの安定性を高める形で進むのが通例である——だが系列が伸びるほど参照すべき過去は増え、直近だけを見る設計では以前の場面との整合が失われる。記憶機構を明示的に設計する構成は、その蓄積をボトルネックとして扱うためのものである。
手法: 自己回帰映像生成において過去フレームをどう保持し参照するかという記憶の設計を導入し、因果的ロールアウトの長期化に伴うボトルネックに対処する。
Just-in-Time Memory: Learning to Curate Task-Adaptive Memory for LLM Agents
著者: Yefan Zhou, Yang Li, Zeyu Leo Liu et al.
エージェントの記憶システムは過去の経験を再利用して将来の性能を高めるが、既存の設計の大半は書き込み時に記憶を編成していると本研究は指摘する(34 upvotes)。タスクが完了した時点で、その軌跡がリフレクション・ワークフロー・スキル・推論戦略といった固定的な成果物へ蒸留され、後から類似度で検索される。
新規性: 記憶の編成時点を書き込み時から読み出し時へ移した点が中核である。エージェント記憶は、経験を終了直後に要約して再利用可能な形に固める方向で進むのが通例である——だが何が有用かは次にどんなタスクが来るかで変わり、書き込み時点で形を決めた成果物は後から必要になる別の側面を落としている。タスクに応じて記憶を編成する構成は、その取り返しのつかなさを避けるためのものである。
手法: 完了時に固定成果物へ蒸留する方式に代えて、タスクに適応して記憶を編成(curate)する仕組みを導入する。
RewardVerse: Rubric-Guided Policy Optimization for Video Reward Modeling
著者: Zhenchen Tang, Yang Li, Songlin Yang et al.
強化学習は映像生成モデルの最適化に不可欠であり、頑健な報酬モデル(RM)がその土台となる(24 upvotes)。しかし既存の映像報酬モデルは、複雑で主観的な映像品質を単一のスコアへ直接写してしまうため、不安定なスカラー値を出すと本研究は指摘する。
新規性: 報酬を単一スコアの回帰ではなく、評価基準(ルーブリック)に導かれた方針最適化として構成した点が中核である。映像の報酬モデリングは、人間の好みデータからスカラー値を予測する形で進むのが通例である——だが「良い映像」は動きの自然さ・指示への忠実さ・破綻の有無など性質の異なる軸の束であり、それらを一つの数字へ畳み込む過程で何が効いたのかが失われる。ルーブリックを介在させる構成は、その軸を明示したまま最適化へ渡すためのものである。
手法: 映像品質をルーブリックとして明示し、それに導かれた方針最適化によって報酬モデルを構成する。
PACT: From Credit Assignment to Critic Alignment
著者: Jiayan Fu, Hang Xu, Yong Zhang et al.
強化学習はLLMの後学習の中心的な構成要素になっているが、トークン単位のクレジット(credit)には一般に受け入れられた数学的定義がなく、実際に使われている訓練信号との関係が不明なままだと本研究は指摘する(16 upvotes)。
新規性: クレジット配分の議論を手法の比較ではなく、満たすべき性質の定式化から始めた点が中核である。LLMのRLは、トークンごとの寄与を近似する新しい推定量や損失を提案する形で進むのが通例である——だが「トークンのクレジットとは何か」が定まっていなければ、提案された信号が近似しているはずの対象を指定できない。正則性条件を先に置く構成は、その対象を定義してから既存の訓練信号との対応を測るためのものである。
手法: Completeness を含む3つの正則性条件を定式化してトークン単位のクレジットを規定し、それを批評器(critic)の整合という問題へ接続する。
Rufus-Air: An Open LLM Post-Training Recipe
著者: Chia-Yuan Chang, Renyuan Cheng, Rui Feng et al.
Rufus-Air は GLM-4.5-Air-Base(106B-A12B)を出発点とする、公開かつ再現可能な後学習レシピである(13 upvotes)。SFT・Reasoning RL・Coding RL・Instruction-Following RL・General Agent・Coding Agent・Search Agent・RLHF の8段を直列のパイプラインとして構成し、データ・報酬設計・インフラを文書化している。
新規性: 個別の後学習手法ではなく、8段を通した一本のパイプラインとして工程全体を公開した点に意味がある。後学習の研究は、SFTやRLHFといった段階を切り出して改善する形で進むのが通例である——だが実際の性能は段の順序と各段のデータ・報酬の作り方に左右され、単段の比較からは再現できない。全段を並べて記述する構成は、その依存関係ごと追試できるようにするためのものである。
手法: GLM-4.5-Air-Base 上で8段の逐次パイプラインを実行し、各段のデータ・報酬設計・学習インフラを文書化して公開する。
Verifiable Hidden Dynamics Play: Generating Agentic RL Environments from Solved Mechanisms
著者: Xinjie Shen, Wei Fan, Xudong Guo et al.
言語モデルのエージェントは、状態が変化し、決定が相互依存し、結果が遅れて現れる長期タスクに直面するようになっている(12 upvotes)。その訓練を規模化するには、多様なエージェント環境・信頼できる結果信号・低い拡張コストが揃う必要があるが、既存の生成パイプラインは環境を一から構築するのが通例だと本研究は指摘する。
新規性: 環境生成の出発点を、新規に設計した課題ではなく既に解が判明している機構(solved mechanism)に置いた点が中核である。エージェントRLの環境整備は、タスクと報酬を人手で書き起こす形で進むのが通例である——だが手作りの環境は数を増やしにくく、正解が曖昧なため結果信号の信頼性も担保しづらい。解が既知の機構から環境を起こす構成は、多様性と検証可能性を同時に取るためのものである。
手法: 解が判明している機構を素材として、隠れた動力学を持つ検証可能なエージェントRL環境を生成する。
Learning to Discover Interesting Mathematics
著者: Niket Patel, Ahmad Rammal, Amaury Hayat et al.
近年、LLMは数十年にわたり未解決だった問題を含む高度な数学の問題を解けるようになってきた(8 upvotes)。これは前例のない規模で数学的知識を拡張する可能性を開く——だが、LLMが予想を立てて証明できるようになったとしても、それが数学として面白いかどうかは別の問題だと本研究は問う。
新規性: 評価対象を証明の正しさから、予想の面白さへ移した点が中核である。数学におけるLLMの研究は、既存のベンチマーク問題を解けるかどうかで進むのが通例である——だが与えられた問題を解く能力は、どの問いを立てるべきかを選ぶ能力とは重ならず、規模だけ拡張しても取るに足らない主張が量産されうる。「面白い数学」の発見という定式化は、その選択自体を学習の対象に含めるためのものである。
手法: 定理を証明する能力にとどまらず、面白い数学的対象や予想を発見する方向へLLMを向ける枠組みを構成する。
分野別の動向
エージェントの記憶:いつ形を決めるか
記憶に関する研究が上位を占めた。Just-in-Time Memory(34 upvotes)は、既存のエージェント記憶がタスク完了時に軌跡をリフレクションやスキルへ蒸留して固定する「書き込み時のキュレーション」であると整理し、その時点を読み出し側へ動かす。SpeakerMem-R1(83 upvotes)は同じ問題を多者間対話で扱い、検索すべき単位を内容から話者へ変える。MemoryAthena(5 upvotes)はさらに踏み込み、記憶は検索されるだけでなく生成されうるのかを問うて、明示的なテーブルへの格納と別個のリーダーという構成の前提を崩しにかかる。映像側では The Past Frames the Future(39 upvotes)が自己回帰生成の長尺化を過去フレームの保持問題として立て直しており、言語・対話・映像それぞれで「何をどれだけ覚えておくか」が同じ日に別々の形で提起された。
世界モデル:生成の質から、干渉後の持続性へ
HappyWorld-Bench(41 upvotes)は、世界モデルの評価が生成物の品質だけでは足りず、探索・干渉・改変を受けたあとの一貫性と応答性を測るべきだと主張する。Spatial-Interactor(47 upvotes)は評価ではなく学習の側から同じ動的性を扱い、物体運動と視点変化による局所遷移を長い軌跡で統合させる。InternW0(6 upvotes)は「予測は世界が変化し続ける中でも実行可能(actionable)なままでなければならない」と述べて上海AI Labの物理世界モデル系列の第一弾を提示し、Uranus(3 upvotes)は関節軌跡条件付けのデータ駆動シミュレータで、従来のシミュレータ構築が労働集約的だという制約に当たる。生成された世界を静止画的に評価する段階が終わりつつある。
強化学習:クレジット・報酬・環境の三方向
PACT(16 upvotes)はトークン単位のクレジットに数学的定義がないという足元の問題から入り、3つの正則性条件を置いて批評器の整合へつなぐ。RewardVerse(24 upvotes)は映像報酬モデルが主観的品質を単一スカラーへ直写する不安定さをルーブリックで解き、AV-GRPO(3 upvotes)は音声・映像の同時生成でRL後学習をそのまま適用する難しさを指摘してモダリティ別に切り分ける。環境側では Verifiable Hidden Dynamics Play(12 upvotes)が解が既知の機構から検証可能な環境を起こす。Rufus-Air(13 upvotes)はこれらを実際の後学習パイプラインとして並べたものと読める——8段のうち5段がRLまたはエージェント訓練である。
研究を担うエージェント:探索と実験理解の評価
Learning to Discover Interesting Mathematics(8 upvotes)が「解く」から「面白い問いを見つける」へ軸を移した隣で、探索能力そのものを測る試みが出ている。ExplorationBench(9 upvotes)は、科学的発見は既知の問題が尽きたところから始まると述べ、新しい仮説が本当に成り立つかをどう検証するかという困難に対して検証可能な人工世界を用意する。WhatWorkedBench(9 upvotes)は、AI研究エージェントが自分の実験が結果をどう変えたかを正しく把握できているかを予算付きの実験後の予測精度で測る。Qwen-Planner-Agent(10 upvotes)はAIが開発の対象でありながら次世代AIの構築に参加できるかという問いを閉ループの枠組みとして立て、Self-Organizing Agent Teams(5 upvotes)は解の構造が未知なときに役割分担を事前指定できないという前提から、推論の組織化を経験から学ばせる。
効率化と安全性
圧縮側では Neural Spectral Capacity(7 upvotes)が、#Params と #FLOPs は規模と計算量を捉えるが深さ・幅・ヘッド構成といった構造を表さないと指摘し、ネットワーク仕様のみから容量を測る尺度を置く。Six Layers Less(4 upvotes)は Whisper のデコーダ削減が広く採用された一方で手つかずだったエンコーダ側を、ラベル不要の回復手順つきで削る。安全性では AgentKernel(6 upvotes)が、信頼境界を日常的に跨ぐ現代のエージェント——未信頼の内容を取り込み、特権的な指示と混ぜ、中間的な信念を長期記憶に残し、特権ツールを呼ぶ——を trust-native なOSとして設計し直す。Just Ask Jev(5 upvotes)は、既存の検出器が基準ごとにデコードパスを消費する生成的判定器か、呼び出しごとに固定ラベル一つを採点する分類器であると整理して、校正された判断をゼロショット検出に使う。