言語・LLM

論文解説言語・LLM

AREXとは？自己改善ループでBrowseComp 82.5%を達成するリサーチAI

複数条件を満たす答えを探すディープリサーチ向けに、調査ループと自己改善ループを交互に回すエージェントAREXが登場。4Bと122B-A10Bの2モデルでBrowseComp 82.5%を達成した仕組みを解説します。

2026年7月24日

AREXとは？自己改善ループでBrowseComp 82.5%を達成するリサーチAI

論文解説言語・LLM

SLAI T-Rexとは？Ascend NPUで兆パラメータMoEを事後学習しMFU2.93倍

Huawei Ascend NPUクラスタで兆パラメータMoE「DeepSeek-V4」の全パラメータ事後学習を実現したSLAI T-Rexを解説。MFU 34.22%達成の階層的最適化とOR課題での性能向上を紹介します。

2026年7月23日

SLAI T-Rexとは？Ascend NPUで兆パラメータMoEを事後学習しMFU2.93倍

論文解説言語・LLM

SWE-Pruner Proとは？エージェント自身の内部表現でコンテキストを39%削減

コーディングエージェント自身の隠れ状態から不要な行を判定するSWE-Pruner Proを解説します。最大39%のトークン削減とSWE-Bench Verified解決率+3.8%を両立した仕組みと実験結果をまとめました。

2026年7月21日

SWE-Pruner Proとは？エージェント自身の内部表現でコンテキストを39%削減

論文解説言語・LLM

HiLS Attentionとは？LM損失で学習するスパース注意で訓練長64倍を外挿

Tencent HY Teamが提案するHiLS-Attentionは、LM損失でチャンク選択を学習するスパース注意機構です。訓練長8Kから512K（64倍超）への外挿で90%超の検索精度を維持し、推論速度は全注意比最大15.7倍になります。

2026年7月8日

HiLS Attentionとは？LM損失で学習するスパース注意で訓練長64倍を外挿

論文解説言語・LLM

LLM-as-a-Verifierとは？検証を第三のスケーリング軸に据えたLLM汎用フレームワーク

スコアリングトークンのlogit分布から連続スコアを算出し、検証を第三のスケーリング軸とする汎用フレームワーク。SWE-Bench Verified 78.2%・RoboRewardBench 87.4%など複数領域でSOTAを達成します。

2026年7月7日

LLM-as-a-Verifierとは？検証を第三のスケーリング軸に据えたLLM汎用フレームワーク

論文解説言語・LLM

AgenticSTSとは？長期タスクでコンテキストを増やさないLLMエージェントのメモリ設計

LLMエージェントの長期タスクでコンテキストが肥大化する問題に対し、3層の有界メモリと型付き検索で解決するAgenticSTSを解説します。Slay the Spire 2上のベンチマークでエージェントの勝率を3/10から6/10に改善しました。

2026年7月6日

AgenticSTSとは？長期タスクでコンテキストを増やさないLLMエージェントのメモリ設計

論文解説言語・LLM

AutoMemとは？LLMエージェントのメモリ管理を認知スキルとして自動最適化する新手法

LLMエージェントのメモリ管理を「学習可能な認知スキル」として定式化したAutoMemフレームワークを解説します。スキャフォールド最適化と習熟度トレーニングの2段階で、Qwen2.5-32BモデルがClaude Opus 4.5と同等水準に達しました。

2026年7月5日

AutoMemとは？LLMエージェントのメモリ管理を認知スキルとして自動最適化する新手法

論文解説言語・LLM

FlashMorphとは？既存TransformerをハイブリッドAttentionへ最適変換し長文脈を最大2.8倍高速化

ByteDance Seedが提案するFlashMorphは、既存のフルAttention Transformerをゼロから再学習せずMamba/線形Attentionとのハイブリッドへ変換します。層選択をHALOの7.3分の1のGPU時間で完了し、256Kトークンでのプリフィルを2.81倍高速化します。

2026年7月3日