Thinking Machines、Inkling-Small公開 4分の1サイズで上位超え

Thinking Machines Labが総パラメータ2760億・アクティブ120億のMoE型オープンウェイトモデルをApache 2.0でHugging Faceに公開しました
従来版Inklingの約4分の1サイズながら、Humanity's Last ExamやSWE-bench Verifiedで上位モデルを上回る結果を示しました
NVFP4量子化版では必要GPUメモリが180GBまで下がり、開発者が手元で動かせる実用性を備えています

概要

米OpenAIの元最高技術責任者（CTO）ミラ・ムラティ氏が率いるThinking Machines Labは、2026年7月30日（米国現地時間）にオープンウェイトモデル「Inkling-Small」を公開しました。ライセンスはApache 2.0で、モデル重みはHugging Faceからダウンロードできます。

Inkling-Smallは総パラメータ数が2760億、実際の推論で動くアクティブパラメータ数が120億のMoE（Mixture-of-Experts）型Transformerです。MoEは入力ごとに一部の専門家（エキスパート）だけを使う仕組みで、モデル全体は大きくても計算コストを抑えられます。

同社の従来モデル「Inkling」の約4分の1というサイズながら、複数のベンチマークで上位モデルを上回った点が今回の発表の中心にあります。オープンウェイトモデルを巡る動きは、Moonshot AIのKimi K3など各社の競争が続いており、今回のInkling-Smallもその流れに加わる形となりました。

MoEで実現した軽量化

Inkling-Smallの構造は、入力トークンをルーターが受け取り、その内容に応じて少数のエキスパートだけを起動して出力を生成します。総パラメータは2760億ありますが、1回の推論で動くのは120億分に限られるため、大規模モデルの知識量と軽量モデルの計算効率を両立できます。

学習にはNVIDIAのGB300 NVL72システムが使われました。マルチモーダル対応で、音声と画像をネイティブに処理できるほか、コンテキストウィンドウは最大100万トークンに達します。推論時の思考労力を調整できる仕組みも備え、用途に応じて速度と精度のバランスを変えられます。

ベンチマークで上位を上回る

性能面では、難関問題を集めたHumanity's Last Examで31.6%を記録し、従来版Inklingの29.7%を上回りました。ソフトウェア開発能力を測るSWE-bench Verifiedでは80.2%、ターミナル操作を評価するTerminal-Bench 2.1では64.7%を達成し、いずれもInklingを超えたとしています。

より小さいモデルが上位モデルを上回った背景には、学習プロセスの改良があります。Inkling-SmallはInklingより後に学習されたため、事前学習データの配合を見直し、プレビュー版を教師役に使うオンポリシー蒸留を実施しました。さらに2週間かけて、エージェント型コーディングの強化学習をスケールさせています。

量子化で180GBまで削減

実用面で重要なのが必要GPUメモリの削減です。BF16チェックポイントは600GB以上を必要とし、B300を4基またはH200を8基で動かせます。Inklingでは2TB以上が必要だったため、大幅に下がりました。

数値の精度を落として軽量化するNVFP4量子化版では、必要メモリが180GB以上まで下がります。これはB300を1基、あるいはH200を2基で動かせる水準で、Inklingの600GB以上から大きく削減されました。単一GPUに近い構成で動かせることは、多くの開発者にとって導入のハードルを下げます。