Anthropic 前沿紅隊 10 月 12 日發表一項研究,結論是:參數量不大的開放權重模型,可能再過幾個月就有能力在廉價的物聯網裝置上自我複製,例如一台只要幾十美元的安卓電視盒。作者 William Zhou 與 Daniel Freeman 把這類程式稱為「權重型複製器」:模型自行掃描網路、入侵裝置、把權重複製過去、在新機器上架起推論服務,再從那裡繼續往外擴散。
論文中的原句是:
“may be months away from being capable enough to self-replicate on commercial internet-of-things (IoT) devices”
(距離有能力在商用物聯網裝置上自我複製,可能只差幾個月。)
拆成四個步驟測試
研究把複製過程拆開來檢視。第一步是在陌生硬體上部署推論。Qwen3.5-9B 在 9 種硬體中的 8 種上自行把推論跑了起來,從 Jetson Nano 到 Mac、RTX 4090 都有,單次流程耗時 28 到 51 小時。較大的 Gemma4-26B-A4B 被拆分到 15 台每台約 55 美元、各配 4GB 記憶體的安卓電視盒上執行,速度約每秒 0.3 個 token,整個部署花了 71 到 150 小時。
第二步是端到端複製。團隊在 Google Cloud 上搭建了 8 個節點的模擬網路,讓模型一口氣完成掃描、入侵、傳送權重與部署推論。開放權重模型中,只有 GLM-5.2 能穩定完成:5 次試驗中有 4 次擴散到全部 8 個節點,其餘 1 次到達 7 個。300 億參數以下的模型多數單一步驟都做得來,但鏈條一長就出錯。
第三步測試「世代學習」。讓 Qwen3.5-9B 把上一代留下的筆記交給下一代,共跑了 6 代、20 條譜系,成功率從第一代的 45% 升到後續各代的 61% 至 84%。研究也試過讓 Claude Opus 4.8 擔任顧問來指導小模型,但效果沒有顯著提升。
規模與速度
Anthropic 以 Kimwolf 殭屍網路為參照進行估算:若有 200 萬台以上的同類裝置遭感染,大約能跑起 13.3 萬個模型副本,合計吞吐量約每秒 8 萬個 token,運算力相當於 40 張左右的 H100。這種網路沒有中心節點,很難一刀切斷,但擴散速度慢,副本數量要翻倍得花好幾天。
作者自己也列出幾項限制。實驗中的入侵環節被簡化為 ADB 偵錯埠不設驗證,因此成功率應視為上限;用來推算趨勢的 ECI 是通用能力指標,並不直接衡量複製能力;速度與規模只根據一種硬體和一個歷史上的殭屍網路;AI 殭屍網路與防守方對抗的情境則沒有測試。至於小模型撰寫魚叉式網路釣魚信的水準,研究給的評價是「很差」到「較差」。
與中國大陸有什麼關係
這次測試的主力模型,Qwen 來自阿里巴巴,GLM 來自智譜(Zhipu AI),都是中國大陸業者的開放權重模型。研究並未指出這些模型有缺陷,用到的正是它們能力強、可在本機執行的特點。兩家公司目前都沒有對這份研究公開表態。
被拿來當載體的安卓電視盒、投影機與各式盒子,在中國大陸家庭中的保有量很大,出廠時就開著偵錯埠、預設密碼不更改的情況,資安圈已經提醒多年。英國已立法禁止物聯網裝置使用預設密碼,至於中國大陸對應的強制規定,就公開資料來看,還沒看到力道相當的條款。
防禦建議沿用 Mirai 時期的經驗:電信業者監控流量異常,隔離遭感染的用戶並通知其清除。當年這套做法在 14 天內清除了 92% 的感染,未通知的對照組則是 74%。Anthropic 的目標是把複製器的基本傳染數 R₀ 壓到 1 以下。
研究中還有一項數據:如果把部署步驟改成寫死的腳本,連 30 億參數的模型,也能涵蓋 17 節點網路中約一半的機器。模型越小,越容易塞進裝置,這條線往後會走到哪裡,取決於開源小模型下一輪更新的幅度。
參考來源:Anthropic 前沿紅隊研究部落格、CocoLoop、研究頁面(已核對各模型參數量、硬體種類、成功率、世代成功率與 Kimwolf 規模估算口徑)