Fireworks 再遭入侵,模型权重和数据集外泄

开源模型推理平台 Fireworks 本周一确认,公司遭遇新一轮入侵,部分客户的账单信息、模型权重和数据集被泄露。据报道,上周它已经先向 Harvey 等几家大客户通报了这起比 10 月更严重的事件,目前正和网络安全公司 Palo Alto Networks 旗下的 Unit 42 一起调查。

Fireworks 发言人回应称,公司”高度重视该事件”,正在直接对接客户,并联合 Unit 42 排查问题、加固系统。法律 AI 公司 Harvey 的发言人表示,这次事件没有影响到 Harvey 的客户数据。

Notion、Vercel、Cursor 都在用 Fireworks 的服务,它们以及它们的终端用户数据有没有受影响,目前还不清楚,几家公司都没有公开表态。

示意图:服务器抽屉滑出钥匙与存储模块,象征AI安全事件中的数据泄露

一个月里的第二次

把时间线排开看,这是 Fireworks 一个月内第二次出事。

10 月 6 日,Fireworks 发现有人冒用公司内部凭证,读取了”有限数量”客户账户里评估任务的环境变量,其中包括以密钥形式存着的第三方 API key 和令牌。10 月 9 日晚它发了安全公告,次日撤销了一批用户 API 密钥,并轮换服务账户令牌。当时的公告写得很明确:

“we have not detected evidence of unauthorized access to customer models, datasets, training data” (我们没有发现客户模型、数据集、训练数据遭到未授权访问的证据。)

一个月后,模型权重和数据集都出现在了外泄清单上。两次事件是否相关,Fireworks 称目前还无法确定。它 10 月的公告页面停在 10 月 10 日的更新,状态写着”持续监控”,截至发稿没有补上 11 月这次的内容。

被卷进去的不止一家

10 月那次入侵发生时,Fireworks 并不孤单。云安全公司 Wiz 在 10 月 30 日的报告里把这一波称作 AI 开发者平台的”黑色十月”:最初列出 Fireworks、Railway、Warp、Lightning AI 等 9 家,到 11 月 10 日的更新已经增加到 16 家披露过安全事件,NVIDIA 旗下的 Brev 也在其中。

Wiz 归纳的共同点是,攻击者专门翻找环境变量里的密钥,特别是能调用 AI 服务的那种。拿到之后先打一次请求验证能不能用,再用代理池大规模调用,最后通过转售渠道变现。业内把这种盗用大模型额度的做法叫 LLM 劫持。Wiz 给出的一个案例里,泄露的密钥在约 30 小时内被调用了约 80 万次;另一个案例约 13 小时内调用了 170 万次,两例按标价合计可能超过 10 万美元。

据报道,Unit 42 认为这次针对 Fireworks 的攻击和一个做 LLM 劫持的网络犯罪团伙有关。这个说法目前只见于媒体转述,Unit 42 没有发布公开报告,具体是哪个团伙也没有点名。

融资窗口撞上安全事故

时间点对 Fireworks 很不巧。这家 2022 年成立的公司,今年 7 月年化营收已到 10 亿美元,估值 175 亿美元;据知情人士透露,它原计划本周启动新一轮融资,目标估值至少 300 亿美元。

同样据知情人士说法,部分每年在平台上花几百万美元的大客户正在考虑迁走。融资是否推迟、有多少客户真的迁移,Fireworks 没有回应,这部分信息目前无法核实。

对用户来说,Fireworks 10 月公告里的建议这次依旧适用:在 Fireworks 里删掉存储的密钥并不会让密钥本身失效,要到对应的服务商那里轮换第三方凭证,再检查这些凭证的访问日志。

参考来源:新浪财经、Fireworks 安全公告、CocoLoop、Wiz 安全研究报告;核验对象为两次事件的泄露范围、受影响平台数量与密钥滥用调用次数,营收与估值数字以报道口径为准。