35B MoEの自律機械学習エージェント「MLExpert」を解説します。実験結果の区切りに共有報酬を与えるWIRLにより、MLE-Bench Liteのメダル率を37.9%から72.7%へ改善しました。
自己回帰動画生成の途中推定を下書きとみなし、収束したトークンを早期確定する Speculative Forcing を解説。LongLive で平均1.7ステップ・41.7fpsと約1.58倍の高速化を品質劣化なしに実現した仕組みと限界を紹介します。
視覚トークンを8個のコードブックで表す完全離散の拡散言語モデル「Intern Lumina U2」を解説します。画像・動画・3Dを単一バックボーンで扱い、画像生成を4.45倍高速化した仕組みと実験結果を紹介します。
3D世界を実行可能なコードとして集めた3DCodeVerse-2Mを解説。269,597件のプログラムと約203万行のデータ、検証を自動化するマルチエージェントHarnessが人間評価90%勝率を達成した仕組みを紹介します。
確信度の高い判断は即答し、不確実なケースだけ推論を起動するAutoThink設計の意思決定モデルStartLux-Decisionを解説。推論長を最大65%削減する強化学習手法RLCD²と0.8B〜27Bの公開内容も紹介します。
事前計算したn-gramカウントをホストCPUメモリに置き、学習パラメータを増やさずに1B LLMの検証損失を計算量57%増相当まで改善する手法COUNTを解説します。訓練不要のドメイン適応も可能です。
選択肢の順序で判定が変わる問題をアーキテクチャから解消したSystem Oneモデル「Jeva」を解説します。null検出AUROC 98.66%、順序入れ替えでの反転ゼロ、キャッシュで約28倍高速化という成果を紹介します。
Fish Audio Drama 3は総パラメータ35B・3B活性のMoEで自然言語の演技指示に追従する音声生成モデルです。Expressoでの指示追従62.2%、H200で271フレーム/秒などの成果と課題を解説します。
コーディングエージェントがAIエージェントを構築・編集・最適化できるかを25タスクで測るベンチマークAgentSWEを解説。開発ケースで90点超でも非公開ケースでは平均9.9点という乖離と3つの失敗モードを紹介します。
4BパラメータのグラウンディングモデルGroundingPIが34ベンチマーク平均73.68%でGPT-6 Astraを上回り、ロボット操作と自動運転にも転移。手法と限界を解説します。
マルチモーダルLLMの内部に水平・垂直・奥行きの座標を線形に持つ部分空間「S-Space」が発見されました。因果介入で空間回答だけを書き換えられることや、弱点が知覚ではなく視点変換にある点を解説します。
拡散モデルのオンライン強化学習を効率化する新手法DiffusionARTを解説。EMA調整を二段更新で置き換え、HunyuanVideo-13BでGPU時間12.02倍削減と平均報酬28.8%向上を達成した仕組みと実験結果を紹介します。
AI-Papers
