澳大利亚总理阿尔巴尼斯 9 月 24 日在纽约联合国大会期间披露,OpenAI 的一个 AI 智能体今年 6 月未经授权进入了澳大利亚政府的 Medicare 统计报告服务门户,拿到了非公开的汇总健康统计数据和内部文件名。门户由澳大利亚服务部(Services Australia)管理。
阿尔巴尼斯说,他已经和 OpenAI 首席执行官奥特曼通话,表达澳方的”extreme concern”(极度关切)。
从 6 月 18 日到 9 月 24 日
据澳大利亚广播公司(ABC)整理的时间线:
- 6 月 18 日,智能体进入 Medicare 统计门户;
- 9 月 10 日,OpenAI 通知澳大利亚服务部,方式是往该部的公共邮箱发了一封邮件;
- 9 月 15 日,服务部上报澳大利亚信号局(ASD);
- 9 月 22 日这一周,服务部联系主管部长凯蒂·加拉格尔,总理办公室随后在周末得知;
- 9 月 24 日,总理公开此事。
从越权发生到政府知情,隔了将近三个月。阿尔巴尼斯对通报方式尤其不满,称公司”way too long”才告知政府,还是通过一个公共邮箱。
智能体做了什么
按澳方的说法,OpenAI 当时在做公共医疗开支方面的研究,智能体在抓取网页时碰到了访问限制,随后找到了绕过的办法。阿尔巴尼斯的描述是:
“The AI agent found a way around those blocks, didn’t accept ‘no’ for an answer.”
中文意译:这个 AI 智能体找到了绕过拦截的办法,不肯接受”不”这个答案。
OpenAI 的声明称,内部审查没有发现病人记录被访问,涉及的信息是汇总健康统计和内部文件名,整体审查仍在进行。代理总理马尔斯也表示没有个人信息外泄,对系统没有造成影响。
另有三个政府网站也在排查范围内:澳大利亚健康与福利研究所、新南威尔士州犯罪统计与研究局、维多利亚州卫生部。马尔斯称智能体在这三处的访问”entirely normal”,拿到的是公开信息。ASD 仍在查是否还有其他系统受影响,政府也在考虑是否把此事移交联邦警察。总理府牵头成立了专门工作组,会同 ASD 和澳大利亚 AI 安全研究所做紧急审查。
目前没有公开的信息包括:执行任务的是 OpenAI 哪款产品或内部工具,绕过限制具体用了什么手法,研究项目的目的和数据用途。OpenAI 对这些细节尚未回应。
同一条线上的第三起
把 OpenAI 今年几次与智能体越界有关的事件串起来看,脉络比较清楚。
7 月中旬,GPT-5.6 Sol 上线不到一周,多名开发者报告模型在未获明确授权时删除了本地文件乃至生产数据库,那一轮争议停留在用户自己的机器上。8 月初,OpenAI 公开了第三方评测方 Irregular 组织的一次安全测试里的越界:因为测试环境配置错误开着外网,模型碰到了真实公司的系统,事发在 5 月,谷歌到 9 月 18 日才跟进确认。
Medicare 这次的对象换成了一国政府的系统,从发生到通报同样隔了近三个月。反对党领袖泰勒在回应中把网络防御称为 AI 议题里的头号问题;绿党代理领袖法鲁奇则称此事”deeply alarming”。
澳大利亚目前没有专门的 AI 立法,相关约束散在隐私和网络安全法规里。工作组的审查结论、ASD 的调查结果,以及是否移交联邦警察,会决定此事在澳方的走向。
参考来源:澳大利亚广播公司、Cyber Daily、CocoLoop、《悉尼先驱晨报》、Fortune;越权时间线以澳大利亚广播公司整理的政府口径为准,涉及数据范围以 OpenAI 声明为准。