國產大模型集體削弱網路攻擊能力

月之暗面、騰訊、阿里巴巴這三家中國頂尖模型廠商,最近一個月發表的新模型都做了同一件事:把模型的攻擊性網路能力往下壓,防禦能力則保留甚至加強。彭博社本週將這幾次發表串連起來報導,認為這與商務部 10 月公布的 AI 出口管制草案有關。三家公司都沒有公開把自己的做法與草案掛鉤。

示意图:工具箱移出钩状道具并保留盾锁与维修工具,象征国产大模型削弱进攻、保留防御

三家各自怎麼做

月之暗面動作最早。10 月下旬發表 Kimi K3.1 Pro 時,該公司表示已從訓練語料和強化學習環境中移除網路安全相關資料,通用程式設計能力則保留。依公司內部的攻防基準測試,也就是在受控環境中尋找軟體漏洞並加以利用,K3.1 Pro 得分 81.0%,未做風險削減的同類版本為 90.5%,81.0% 仍略高於前一代。這組數字未經獨立驗證。

“We aim not to release open weights that would extend the absolute frontier of cyber capability.”(月之暗面:我們不打算釋出會把網路能力推向絕對前沿的開放權重。)

騰訊於 11 月 4 日發表混元 Hy4,表示其網路安全訓練只用於防禦,例如找出軟體缺陷並協助修復;建構駭客工具、入侵系統、探測系統弱點的素材都已排除。騰訊指出,經內部資安專家測試,沒有看到 Hy4 在協助入侵軟體、繞過安全防護方面有更高風險,也沒發現它能讓有害的生物實驗變得更容易。騰訊計畫之後釋出權重,並附上一份安全測試報告。

阿里巴巴於 11 月 16 日發表 Qwen4-Max,表示訓練中加入了安全檢查,可減少程式碼注入、記憶體安全缺陷、存取控制失效這類漏洞,對網路犯罪和危險物質類濫用的防護也有所加強,內部測試未發現明顯的高風險能力。彭博的報導還提到,這一代旗艦模型沒有開放權重,使用者無法下載完整版本自行修改;阿里巴巴方面並未就此單獨表態。

草案劃了哪些線

商務部與科技部 10 月聯合公布的草案,擬將 23 項 AI 技術列入出口管制清單,涵蓋大模型、智慧代理、晶片設計和運算叢集。大模型這一項管制的是權重、原始碼等核心部分,門檻是參數量至少 2 兆,或在效能、安全等測試中排進全球前十。草案點名的風險包括:AI 驅動的惡意軟體生成與變形、AI 輔助的漏洞挖掘工具,可能被用來攻擊關鍵基礎設施、國防工業和核心政府系統。

幾項豁免也寫得很清楚。開源程式碼與已發表的研究不在管制範圍內;透過應用程式、網站和 API 向海外使用者提供服務仍然允許;在海外伺服器上運行受管制模型算作出口,但企業在自家海外雲端伺服器上運行,可自動取得許可。公開徵求意見已在 11 月 15 日截止,定稿時間尚未公布。

對照門檻,Kimi K3.1 Pro 自稱為 3 兆參數級,Qwen4-Max 的骨幹參數量為 2.4 兆,都在 2 兆這條線之上。

對開發者與資安團隊的影響

如果定稿與草案差異不大,受影響最直接的是兩類人。

一類是拿開放權重做二次開發的團隊。超過門檻的模型,權重能否繼續對海外釋出要看許可;中國境內能否照常下載,草案並未直接規定,要等定稿與後續解釋。月之暗面已選擇先削減能力再釋出權重,騰訊也說權重會晚些釋出,這兩條路徑會不會成為業界的預設做法,從下一批發表就能看出來。

另一類是從事滲透測試、紅隊演練的資安從業人員。過去用開源模型協助撰寫漏洞利用程式碼、跑漏洞驗證,接下來新版本的國產模型在這方面會更保守。防禦類任務,例如審查程式碼、找出缺陷、撰寫修補程式,三家都說保留甚至加強了,實際效果要等第三方評測。

還有一個對照:在美國,OpenAI 的做法是把能力更強的網路安全模型,透過審核制計畫只開放給經過篩選的防禦方。中國廠商目前公開的路徑,則是在訓練階段就把攻擊能力削掉。兩種做法各自的成效,眼下都只有公司自己的說法。

參考來源:彭博社、路透社關於騰訊 Hy4 與 Kimi K3.1 Pro 的報導、CocoLoop、The Next Web;攻防基準測試分數以月之暗面自行測試的口徑為準,管制清單項目數與參數門檻以商務部、科技部徵求意見稿為準。