国产大模型集体削弱网络攻击能力

月之暗面、腾讯、阿里这三家国内头部模型厂商,最近一个月的新模型都做了同一件事:把模型的进攻性网络能力往下压,防御能力保留甚至加强。彭博社本周把这几次发布串起来报道,认为这与商务部 10 月公布的 AI 出口管制草案有关。三家公司都没有公开把自己的做法和草案挂钩。

示意图:工具箱移出钩状道具并保留盾锁与维修工具,象征国产大模型削弱进攻、保留防御

三家各自怎么做

月之暗面动手最早。10 月下旬发布 Kimi K3.1 Pro 时,它称从训练语料和强化学习环境里拿掉了网络安全相关数据,通用编程能力保留。按公司内部的攻防基准,也就是在受控环境里找软件漏洞并加以利用,K3.1 Pro 得分 81.0%,没做风险削减的同类版本是 90.5%,比前代仍高一些。这组数字没有经过独立验证。

“We aim not to release open weights that would extend the absolute frontier of cyber capability.” (月之暗面:我们不打算放出会把网络能力推到绝对前沿的开放权重。)

腾讯 11 月 4 日发布混元 Hy4,称网络安全训练只用于防御,比如找出软件缺陷并帮助修复;构建黑客工具、入侵系统、探测系统弱点的材料都被排除。腾讯说内部安全专家测试后,没看到 Hy4 在帮人入侵软件、绕过安全防护方面有更高风险,也没发现它能让有害生物实验变得更容易。腾讯计划之后放出权重,同时附一份安全测试报告。

阿里 11 月 16 日发布 Qwen4-Max,称训练中加了安全检查,能减少代码注入、内存安全缺陷、访问控制失效这类漏洞,对网络犯罪和危险物质类滥用的防护也加强了,内部测试没发现明显的高风险能力。彭博的报道还提到,这一代旗舰没有开放权重,用户下载不到完整版本自行改动;阿里方面没有就此单独表态。

草案划了哪些线

商务部和科技部 10 月联合公布的草案,拟把 23 项 AI 技术列入出口管制清单,覆盖大模型、智能体、芯片设计和计算集群。大模型这一项管的是权重、源代码等核心部分,门槛是参数至少 2 万亿,或在性能、安全等测试中排进全球前十。草案点名的风险包括:AI 驱动的恶意软件生成与变形、AI 辅助的漏洞挖掘工具,可能被用来攻击关键基础设施、国防工业和核心政府系统。

几条豁免也写得清楚。开源代码和已发表的研究不在管控范围内;通过应用、网站和 API 向海外用户提供服务仍然允许;在海外服务器上运行受控模型算出口,但企业在自有海外云服务器上跑可以自动获得许可。公开征求意见已在 11 月 15 日截止,定稿时间还没公布。

对照门槛,K3.1 Pro 自称 3 万亿参数级,Qwen4-Max 的骨干参数是 2.4 万亿,都在 2 万亿这条线之上。

对国内开发者和安全团队

如果定稿和草案差别不大,影响最直接的是两类人。

一类是拿开放权重做二次开发的团队。超过门槛的模型,权重能不能继续面向海外放出要看许可,国内能否照常下载,草案没有直接写,要等定稿和后续解释。月之暗面已经选择先削能力再放权重,腾讯也说权重会晚些放出,这两条路径会不会成为行业默认做法,下一批发布能看出来。

另一类是做渗透测试、红队演练的安全从业者。过去用开源模型辅助写利用代码、跑漏洞验证,接下来新版本的国产模型在这方面会更保守。防御类任务,比如审代码、找缺陷、写补丁,三家都说保留甚至加强了,实际效果要等第三方测评。

还有一个对照:美国那边,OpenAI 的做法是把能力更强的网络安全模型通过审核制项目只开放给经过筛选的防御方。国内厂商目前公开的路径是在训练阶段就把进攻能力削掉,两种做法各自的效果,眼下都只有公司自己的说法。

参考来源:彭博社、路透社关于腾讯 Hy4 与 Kimi K3.1 Pro 的报道、CocoLoop、The Next Web;攻防基准分数以月之暗面自测口径为准,管制清单项目数与参数门槛以商务部、科技部征求意见稿为准。