Anthropicが自己複製AIを警告、55ドルのTVボックス15台で26Bを分散推論

Anthropicのフロンティアレッドチームが、30Bパラメータ以下の小型モデルが市販IoT機器上で自己複製しうるリスクを実験データ付きで公表
1台55ドル、メモリ4GBのAndroid TVボックス15台でGemma4-26B-A4Bを分散推論し、毎秒0.39トークンを記録
探索から自己コピー、推論環境構築までを通しで完遂したオープンウェイトモデルはGLM-5.2のみ

データセンター不要の脅威

Anthropicは2026年10月12日（現地時間）、同社のフロンティアレッドチームによる研究を公開しました。30Bパラメータ以下の小型AIモデルが、データセンターを使わずにスマートオーブンや格安のAndroid TVボックスといった市販のIoT機器上で自己複製できるようになる可能性を指摘する内容です。同社はこれが数カ月以内に現実になりうるとみています。

想定されている脅威は、人間の管理を離れて自律的に複製・拡散するAIです。モデルの重み（weights）そのものをマルウェアの一部として運び、乗っ取った機器上で推論を実行しながら次の機器へ広がっていく形態を、Anthropicはweight-based replicator（重みベースの複製体）と呼んでいます。

この形態が厄介なのは、一元的に停止させる仕組みが存在しない点です。クラウドのAPIであれば提供元がアクセスを止められますが、重みが各機器に分散していればそうした手段が効きません。一方で増殖の速度は遅く、台数が倍になるまでに数日かかると見積もられています。

55ドル機器15台での検証

実験は、1台約55ドルでメモリ4GBのノーブランドAndroid TVボックス15台をネットワーク化する構成で行われました。この上でGoogle DeepMindの「Gemma4-26B-A4B」を分散推論させた結果、毎秒0.39トークンという速度が得られています。実用的な対話には遠い数字ですが、巨大なGPUクラスタを使わずに26Bクラスのモデルが動く事実そのものが論点です。

推論環境を自力で構築させる検証では、9Bモデルがテスト対象の見慣れない9種類のハードウェアのうち8種類で推論を動作させることに成功しました。さらに、ネットワーク探索から自己のコピー、推論環境の構築までを一連の工程として通しで実行させた実験では、テストしたオープンウェイトモデルのうち中国Z.aiの「GLM-5.2」だけが完遂しています。GPU搭載マシン上で各モデルが構築した推論サーバを比べると、GLM-5.2の処理速度が突出していたとされます。

主な実験結果を整理すると次の通りです。

検証項目	結果
Gemma4-26B-A4B の分散推論（TVボックス15台）	0.39トークン/秒
TVボックス1台の価格 / メモリ	約55ドル / 4GB
9Bモデルの未知ハードウェアへの対応	9種類中8種類で成功
全工程を完遂したモデル	GLM-5.2のみ

ただし実験はAndroidエミュレータ上で実施されており、GLM-5.2が構築したのは別の小型モデルの推論環境です。GLM-5.2が実際にIoT機器上で自己複製したわけではない点に注意が必要です。

図1は、Anthropicが想定する拡散の流れです。探索と侵入の試行が繰り返され、成功した機器に重みがコピーされ、そこで推論環境が組み立てられてから次の探索に戻ります。各段階を単独でこなす能力は既に確認されており、研究が問題にしているのは、この循環が人間の介入なしに回り続ける状態です。

拡散した場合の推論能力

では実際に広がったとき、どれほどの計算能力になるのでしょうか。Anthropicは、過去に200万台を超えるIoT機器へ感染したボットネット「Kimwolf」と同規模の拡散が起きた場合、約13万3000の複製体が稼働しうると試算しています。数としては大きいものの、全体の推論能力はNVIDIAのGPU「H100」で最大約40台分にとどまります。

9Bモデル1回分の複製には1〜2日以上かかるとされ、この遅さが能力の上限を押さえています。同社はこうした複製体を、粘菌やショウジョウバエの群れになぞらえています。高度な知能が集中するのではなく、低速で散在する処理が総体として存在し続ける像です。エッジ機器での推論性能の制約については、LLMのVRAM必要量とは？計算式と推論・学習別のGPU選び方を解説も参考になります。

小型モデルの性能向上ペースから、Anthropicは年内にも多くの小型モデルがGLM-5.2と同等の水準に達すると予測しています。現時点で完全な自己複製AIは存在しないとしつつ、複製に必要な各ステップを実行する能力は着実に高まっており、その兆しが見えるという評価です。

提言された防御策

防御の目標として掲げられているのは、感染した機器1台が新たに感染させる台数を1未満に抑えることです。疫学の基本再生産数と同じ考え方で、1を下回れば拡散は自然に収束します。具体策は通信事業者と機器メーカーの双方に向けられています。

ISPがフロー監視によって異常通信を検知する
「Mirai」ボットネット対策で効果のあった手法に倣い、感染機器を使う契約者の通信を制限し通知する
機器メーカーが初期パスワードを廃止する

いずれも新奇な技術ではなく、既存のボットネット対策の延長線上にある施策です。同社はシステムを堅牢化して拡散を難しくすると同時に、複製体が居座り続ける世界への備えも必要だとしています。Anthropicは社内評価のネット接続を全面停止するなど、自律動作に伴うリスクの検証を継続的に進めてきました。今回の研究は、その対象をクラウド上のフロンティアモデルから、公開済みの重みと安価なハードウェアの組み合わせへ広げたものと位置づけられます。