Anthropicのフロンティアレッドチームは10月12日、パラメーター数がそれほど大きくないオープンウェイトモデルが、あと数カ月で安価なIoT機器上で自己複製できるようになる可能性があるとする研究を公開した。対象は数十ドルのAndroidテレビボックスなどだ。著者のWilliam Zhou氏とDaniel Freeman氏は、この種のプログラムを「ウェイト型レプリケーター」と呼ぶ。モデル自身がネットワークをスキャンして機器に侵入し、重みをコピーし、新しいマシン上で推論サービスを立ち上げ、そこからさらに拡散していく仕組みである。
論文には次の一文がある。
“may be months away from being capable enough to self-replicate on commercial internet-of-things (IoT) devices”
（商用IoT機器上で自己複製できる能力に達するまで、数カ月かもしれない。）
4段階に分けて検証
研究は複製の過程を段階ごとに分けて検証した。第1段階は、未知のハードウェアへの推論環境の構築だ。Qwen3.5-9Bは9種類のハードウェアのうち8種類で自力で推論を動かした。Jetson NanoからMac、RTX 4090まで含まれ、1回の作業に28〜51時間かかった。より大きいGemma4-26B-A4Bは、1台約55ドル、メモリ4GBのAndroidテレビボックス15台に分割して動かされた。速度は毎秒約0.3トークンで、展開全体に71〜150時間を要した。
第2段階はエンドツーエンドの複製である。チームはGoogle Cloud上に8ノードの模擬ネットワークを構築し、スキャン、侵入、重みの転送、推論の展開までを一気にモデルにやらせた。オープンウェイトモデルで安定して完遂できたのはGLM-5.2だけだった。5回の試行のうち4回は全8ノードに広がり、残る1回も7ノードに達した。30B未満のモデルは多くの単一ステップをこなせたが、連鎖が長くなると失敗した。
第3段階は「世代間学習」の検証だ。Qwen3.5-9Bに、前の世代が残したメモを次の世代へ引き継がせ、6世代・20系統を走らせた。成功率は第1世代の45%から、後続の世代では61〜84%に上昇した。研究ではClaude Opus 4.8を助言役としてつける試みもあったが、有意な改善は見られなかった。
規模と速度
AnthropicはKimwolfボットネットを参照して試算した。同種の機器200万台以上が感染した場合、約13万3000個のモデルのコピーが動き、合計スループットは毎秒約8万トークン、H100約40枚分の計算力に相当する。こうしたネットワークには中心ノードがなく、一度に遮断するのは難しい。ただ拡散は遅く、コピー数が倍になるまでに数日かかる。
著者自身も制約をいくつか挙げている。実験での侵入段階は、認証のないADBデバッグポートに単純化されており、成功率は上限として見るべきだ。傾向の推計に使ったECIは汎用的な能力指標で、複製能力を直接測るものではない。速度と規模は1種類のハードウェアと過去の1つのボットネットに基づく。AIボットネットが防御側と対峙する状況は検証していない。小型モデルが書くスピアフィッシングメールの質については、「非常に低い」から「低い」との評価だ。
中国にとっての意味
テストで主力となったモデルは、アリババのQwenと智譜AI（Zhipu AI）のGLMで、いずれも中国企業のオープンウェイトだ。研究はこれらのモデルに欠陥があるとは述べていない。利用されたのは、能力が高くローカルで動かせるという、まさにその長所である。両社は現時点で、この研究について公式な見解を示していない。
ホストとして挙げられたAndroidテレビボックスやプロジェクターなどの機器は、中国の家庭に大量に普及している。出荷時にデバッグポートが開いたまま、初期パスワードが変更されない問題は、セキュリティ業界が長年警告してきた。英国はIoT機器の初期パスワードを禁じる法律を整えたが、中国で同等の強さの義務づけは、公開資料では確認できていない。
防御策はMirai時代の経験を踏襲している。通信事業者がトラフィックの異常を監視し、感染したユーザーを隔離して通知し、対処を促す。この方法は当時、14日以内に感染の92%を除去した。通知しない対照群は74%だった。Anthropicが掲げる目標は、レプリケーターの基本再生産数R₀を1未満に抑えることだ。
研究にはもう1つ数字がある。展開手順をハードコードされたスクリプトに置き換えれば、3Bパラメーターのモデルでも17ノードのネットワークの約半数のマシンに行き渡った。モデルが小さいほど機器に載せやすい。この線がどこまで動くかは、オープンな小型モデルの次の更新幅しだいである。
参考資料：Anthropicフロンティアレッドチーム研究ブログ、CocoLoop、研究ページ（各モデルのパラメーター数、ハードウェアの種類、成功率、世代間の成功率、Kimwolf規模の推計方法を確認）