LLM/NLP最新論文

自己検証可能な報酬で開放型タスクへ自己改善を広げるRLSVR、信念や意図を予測するMental World Modeling、触覚をネイティブに統合するN_0系が上位に集まった。メッシュ生成や複数人物の接触編集、テキスト条件付けのスケーリング則も並び、報酬設計・世界モデル・マルチモーダル生成が焦点となった。

注目度

注目論文

From RLVR to RLSVR: Task Transformation Induces Self-Verifiable Rewards for Open-Ended LLM Self-Improvement

著者: Qinsi Wang, Jing Shi, Huazheng Wang et al.

検証可能報酬による強化学習(RLVR)は推論指向のLLMを大きく進歩させたが、正誤が決定論的に判定できる数学やコードなどの領域に適用が限られていた(71 upvotes)。本研究はこの制約を、タスクそのものを変換することで乗り越える。

新規性: タスク変換によって自己検証可能な報酬(self-verifiable rewards)を誘導し、開放型(open-ended)タスクへLLMの自己改善を拡張する枠組みRLSVRを提示した点が貢献である。

手法: 検証しづらい開放型タスクを、モデル自身が正しさを検証できる形へ変換することで報酬信号を作り出し、大規模最適化を数学・コード以外の領域へ適用可能にする。

Hugging Face Daily Papers

Mental World Modeling

著者: Hao Fei, Yiran Zhao

世界モデルは計画や行動のための予測基盤を与えるが、既存の定式化は「何が・どこにあり・どう変化するか」という物理的な問いに答えるにとどまる(52 upvotes)。しかし人間の行動は、信念・欲求・意図・感情・社会的配慮といった隠れた心的状態に駆動される。

新規性: 物理的な what/where だけでなく、隠れた心的状態を予測対象に据えた「心的世界モデル(Mental World Modeling)」を提示した点が新しい。

手法: 世界モデルの予測基盤を心的状態にまで拡張し、人が何を信じ・望み・意図し・感じるかを予測できるよう定式化することで、社会的な行動の予測・計画を可能にする。

Hugging Face Daily Papers

N_0-VTLA: Scaling Vision-Tactile-Language-Action Model with Latent Tactile Tokens

著者: NeoteAI Team, Fudan TEAI Team

N_0-VTLAは、視覚・触覚・言語・行動を統合した基盤モデルであり、接触の多い精緻な操作と、蓄積された運用データからのオフライン方策改善の双方を担う(49 upvotes)。既存の視覚ベースのバックボーンの上に触覚を組み込む。

新規性: 潜在触覚トークン(latent tactile tokens)を用いて触覚を言語・行動と統合し、触覚フィードバック制御と接触リッチな操作を可能にした点が貢献である。

手法: 視覚ベースのバックボーンに潜在触覚トークンを付与してVTLA基盤モデルを構築し、触覚知覚とフィードバック制御、および保存済みデプロイデータからのオフライン方策改善を実現する。

Hugging Face Daily Papers

N_0-TWAM: Scaling Tactile-Native World-Action Model for Contact-Rich Manipulation

著者: NeoteAI Team, Fudan TEAI Team

N_0-TWAMは、将来映像と将来接触の両方を予測する触覚ネイティブの世界行動モデルである(27 upvotes)。著者らによれば、大規模学習された触覚世界行動モデルとしては初とされ、接触の多いタスクで高い能力を示す。

新規性: 視覚のみならず「将来の接触」を明示的に予測対象に含めた、触覚ネイティブな世界行動モデルを大規模に事前学習した点が新しい。

手法: 将来の視覚と将来の接触を同時に予測するよう大規模に事前学習し、接触リッチな操作タスクに強い世界行動モデルを構築する。

Hugging Face Daily Papers

Meshy T2: Fast Native Mesh Generation with Flow Matching

著者: Jiale Xu, Rendong Liang, Yuhao Long et al.

ポリゴンメッシュは現代3Dパイプラインの標準的な表面表現であり、映画・ゲーム・インタラクティブ3D向けにアーティスト風のトポロジを持つ高品質メッシュの生成が重要である(41 upvotes)。主流手法はメッシュをトークン列に直列化して自己回帰的にデコードする。

新規性: 自己回帰的な直列化デコードに頼らず、フローマッチング(flow matching)によってメッシュをネイティブかつ高速に生成する点が貢献である。

手法: メッシュをトークン列へ直列化する従来方式に代えてフローマッチングを用い、アーティスト風トポロジのメッシュを直接・高速に生成する。

Hugging Face Daily Papers

MPIE-Bench: Benchmarking Anatomically Plausible Multi-Person Interaction Editing

著者: Jiajia Lin, Mingxuan Du, Tuowen Zhou et al.

テキストから画像への生成やパーソナライズド編集は単一被写体では高忠実度を達成したが、抱擁・運搬・組み合いなど複数人物が接触する動作を配置しようとすると、四肢の融合・余分な手足・身体の相互貫通といった重大な破綻が露呈する(37 upvotes)。

新規性: 複数人物の接触動作編集を解剖学的妥当性(anatomically plausible)の観点で評価する初のベンチマークを構築した点が新しい。

手法: 抱擁や運搬といった共有接触動作を対象に、編集結果の解剖学的な妥当性を測るベンチマークを整備し、既存モデルの失敗パターンを可視化する。

Hugging Face Daily Papers

Beyond Borrowed Histories: Person-Aligned User Simulation for Interactive Role-Playing Evaluation

著者: Yuhang Zhu, Mingxuan Du, Benfeng Xu et al.

ロールプレイエージェント(RPA)はLLMの重要な消費者向け応用の一つとなり、ユーザーは感情的な慰めなどを求めて多ターン対話を行う(32 upvotes)。その能力を測り、システムを比較するには信頼できる評価が不可欠である。

新規性: 借り物の履歴ではなく、人物に整合したユーザーシミュレーション(person-aligned user simulation)を構築し、対話的なロールプレイ評価を可能にした点が貢献である。

手法: 評価対象と整合する人物像に基づいてユーザーシミュレータを設計し、多ターンのロールプレイ対話を再現可能な形で評価できるようにする。

Hugging Face Daily Papers

AISPA: User-Centric System Prompt Auditing for Large Language Model Applications

著者: Xiangning Lin, Shenzhe Zhu, Shu Yang et al.

システムプロンプトは開発者が基盤モデルの振る舞いを規定するために設定する指示であり、商用AI製品全体で使われているが、一般や規制当局にはほとんど開示されず、信頼と説明責任の重大なギャップを生んでいる(30 upvotes)。

新規性: 非開示のシステムプロンプトを利用者視点で監査する枠組みAISPAを提示し、AI応用における信頼・説明責任のギャップに踏み込んだ点が新しい。

手法: 商用AIアプリのシステムプロンプトを利用者中心の観点から監査する仕組みを構築し、開示されない指示が生む説明責任の空白を評価できるようにする。

Hugging Face Daily Papers

See2Think: Do Multimodal Models Really Use Intermediate Visual States?

著者: Siyu Yan, Zhuoran Yan, Haiying Xu et al.

マルチモーダル大規模言語モデルは推論の過程でスケッチ・注釈・ツール・中間画像を用いるが、それらの視覚状態に本当に依拠しているのかは不明のままである(23 upvotes)。既存ベンチマークはタスクの網羅性が狭いか、テキストのみで部分的に解けてしまう問題を抱える。

新規性: マルチモーダルモデルが中間視覚状態(intermediate visual states)を実際に利用しているかを検証するためのベンチマークを整備した点が貢献である。

手法: テキストのみで解けてしまう問題を排し、中間視覚状態への依拠を切り分けて測れるようタスクを構成することで、視覚推論の実質を評価する。

Hugging Face Daily Papers

Scaling Properties of Text Conditioning in Visual Generation

著者: Zilong Chen, Chaorui Deng, Kunchang Li et al.

視覚生成におけるテキスト条件付けの経験的なスケーリング特性は、拡散損失が自然言語プロンプトのトークン数に対してスケールしないため、これまでほとんど計測されてこなかった(23 upvotes)。

新規性: 視覚生成のテキスト条件付けについて、収束した拡散損失がプロンプトの情報量に対してスケールするという経験的スケーリング則を計測した点が新しい。

手法: プロンプトの情報量を変えながら収束後の拡散損失を計測し、テキスト条件付けのスケーリング特性を実証的に明らかにする。

Hugging Face Daily Papers

Explorative Modeling: Unlocking a Third Pretraining Axis and End-to-End Generation

著者: Alexi Gladstone, Heng Ji, Yilun Du

深層学習の革命は、問題を手設計の段階へ分解するよりエンドツーエンド学習が勝ることを教えた(13 upvotes)。しかし生成モデルは、能力が高いにもかかわらずエンドツーエンドで訓練されないという例外であり続けている。

新規性: 生成モデリングに第三の事前学習軸を導入し、生成をエンドツーエンドで訓練できるようにする「Explorative Modeling」を提示した点が貢献である。

手法: 従来の分解的な学習に代えて、探索的なモデリングによって生成過程をエンドツーエンドに最適化できる新たな事前学習の軸を導入する。

Hugging Face Daily Papers

Filesystem-Based Memory for LLM Agents: Organization, Evolution, and Sustainability

著者: Sizhe Zhou, Sheldon Yu, Hui Wei et al.

デプロイされたLLMエージェントは、長期記憶をファイルシステム(エージェント自身が汎用ファイルツールで読み書き・再編成するmarkdownのディレクトリ木)として保持することが増えている(9 upvotes)。しかし研究はこの媒体をほとんど見過ごしてきた。

新規性: 専用の記憶表現を設計する従来研究に対し、markdownディレクトリ木という汎用媒体そのものを長期記憶として捉え、その組織化・進化・持続可能性を分析した点が新しい。

手法: エージェントが汎用ファイルツールで扱うファイルシステム型記憶を対象に、記憶の組織化・進化・持続可能性の観点から体系的に分析する。

Hugging Face Daily Papers

Multi-Head Attention Residuals

著者: Cheng Luo, Zefan Cai, Junjie Hu

Transformerは深さ方向の情報を単一の加法的残差ストリームで伝播し、各サブレイヤは直近の状態だけを読む(8 upvotes)。アテンション残差はこれを緩和し、各サブレイヤが学習されたsoftmaxを通じて過去を参照できるようにするが、その読み出しは幅全体で共有される単一クエリに依存する。

新規性: 残差ストリームを、各サブレイヤが複数クエリで読むよう拡張したTransformer構造(Multi-Head Attention Residuals)を提示した点が貢献である。

手法: 単一クエリによる残差の読み出しを複数ヘッド化し、各サブレイヤが過去の状態を多様なクエリで参照できるよう残差経路を拡張する。

Hugging Face Daily Papers

分野別の動向

報酬設計とLLMの自己改善

検証可能報酬の適用範囲を広げる研究が最上位に立った。From RLVR to RLSVR(71 upvotes)は、正誤が決定論的に判定できる数学・コードに限られていたRLVRを、タスク変換で自己検証可能な報酬を誘導することで開放型タスクへ拡張する。検証可能性そのものを設計対象として作り出す姿勢が、自己改善の次の競争軸を形づくりつつある。

触覚を統合する世界モデル

ロボット操作に向け、触覚をネイティブに扱う世界モデルが並んだ。N_0-VTLA(49 upvotes)は潜在触覚トークンで視覚・触覚・言語・行動を統合し、触覚フィードバック制御とオフライン方策改善を実現する。N_0-TWAM(27 upvotes)は将来映像に加えて将来の接触まで予測する触覚ネイティブな世界行動モデルを大規模に学習する。視覚偏重だった世界モデルに接触という物理的手がかりを組み込む方向で一致している。

心的状態とエージェント記憶

予測・記憶の対象を広げる研究も見られた。Mental World Modeling(52 upvotes)は物理的な what/where を超えて信念・意図・感情など隠れた心的状態を予測対象に据える。Filesystem-Based Memory(9 upvotes)は、markdownディレクトリ木という汎用媒体をエージェントの長期記憶として捉え、その組織化と持続可能性を分析する。いずれも、暗黙に扱われてきた状態や記憶を第一級の設計対象へ引き上げる点で通じ合う。

マルチモーダル生成と評価

生成の高速化と、その評価の厳密化が同時に進んだ。Meshy T2(41 upvotes)はフローマッチングでアーティスト風メッシュを高速生成し、Scaling Properties of Text Conditioning(23 upvotes)は視覚生成のテキスト条件付けにスケーリング則を見出す。評価面ではMPIE-Bench(37 upvotes)が複数人物の接触編集を解剖学的妥当性で測り、See2Think(23 upvotes)がマルチモーダルモデルが中間視覚状態を本当に使っているかを切り分けて検証する。生成能力と、それを正しく測る物差しの両輪が更新されている。

基盤技術とアーキテクチャ

モデル内部の構造や学習軸を問い直す研究も並んだ。Multi-Head Attention Residuals(8 upvotes)は残差ストリームを各サブレイヤが複数クエリで読むよう拡張し、Explorative Modeling(13 upvotes)は生成モデルをエンドツーエンドで訓練するための第三の事前学習軸を提示する。既存の残差伝播や段階的な生成学習の前提そのものを緩める試みが目を引く。

ソース