※ AIによる要約
AI企業Inceptionは、従来の大規模言語モデルに比べて最大10倍高速なテキスト生成が可能な新モデル「Mercury Coder」を発表。
このモデルは、テキストを一文字ずつ順番に生成する従来の手法とは異なり、「拡散型」のアプローチを採用していることが特徴。
Mercury Coderは「粗から細へ」の生成プロセスを採用し、ノイズから直接単語を抽出する「ノイズ除去ステップ」を経ることで、並列処理による高速化を実現。
速度の比較実験では、Mercury Coderが要求されたコードをわずか6秒で出力したのに対し、従来のChatGPTやClaudeはそれぞれ28秒、36秒かかったといいます。また、ベンチマーク評価においても、従来のモデルと同等の精度を維持しつつ、圧倒的な出力速度を記録。
この新技術は、これまで画像や動画、音声生成で活用されてきた拡散モデルを、大規模言語モデルに応用した点で画期的です。元OpenAI研究者のアンドレイ・カルパシー氏も、Mercury Coderの試みを「非常に興味深い」と評価し、従来のオート回帰型モデルとは異なる新たな長所と短所を生み出す可能性があるとの見解を示しています。
現在、Mercury CoderはInceptionのデモサイトやHugging Faceで試用可能となっており、さらにクローズドベータ版として提供されています。
Inception Labs
We are leveraging diffusion technology to develop a new generation of LLMs. Our dLLMs are much faster and more efficient...
www.inceptionlabs.ai