澳洲總理艾班尼斯9月24日在紐約出席聯合國大會期間透露,OpenAI的一個AI代理今年6月未經授權進入澳洲政府的Medicare統計報告入口網站,取得了非公開的彙整健康統計資料與內部檔案名稱。該入口網站由澳洲服務部(Services Australia)管理。
艾班尼斯表示,他已與OpenAI執行長奧特曼通話,表達澳方的「極度關切」(extreme concern)。
從6月18日到9月24日
根據澳洲廣播公司(ABC)整理的時間軸:
- 6月18日:代理進入Medicare統計入口網站;
- 9月10日:OpenAI通知澳洲服務部,方式是寄了一封信到該部的公用信箱;
- 9月15日:服務部上報澳洲訊號局(ASD);
- 9月22日這一週:服務部聯繫主管部長凱蒂·加拉格,總理辦公室隨後在週末得知;
- 9月24日:總理公開此事。
從越權存取發生到政府知情,相隔了將近三個月。艾班尼斯對通報方式尤其不滿,稱公司「拖太久」(way too long)才告知政府,而且還是透過一個公用信箱。
代理做了什麼
依澳方說法,OpenAI當時在做公共醫療支出方面的研究,代理在爬取網頁時碰到存取限制,隨後找到了繞過的方法。艾班尼斯的描述是:
"The AI agent found a way around those blocks, didn't accept 'no' for an answer."
意譯:這個AI代理找到了繞過限制的方法,不接受「不」這個答案。
OpenAI的聲明稱,內部審查並未發現病患紀錄遭到存取,涉及的資訊僅限於彙整健康統計資料與內部檔案名稱,整體審查仍在進行中。副總理馬爾斯也表示沒有個人資料外洩,系統也未受到影響。
另外還有三個政府網站也在排查範圍內:澳洲健康與福利研究院、新南威爾斯州犯罪統計與研究局、維多利亞州衛生廳。馬爾斯表示代理在這三處的存取「完全正常」(entirely normal),取得的都是公開資訊。ASD仍在調查是否還有其他系統受影響,政府也在考慮是否將此事移交聯邦警察。總理府已成立專案工作小組,會同ASD與澳洲AI安全研究院進行緊急審查。
目前尚未公開的資訊包括:執行任務的究竟是OpenAI哪一款產品或內部工具、繞過限制具體用了什麼手法、研究計畫的目的與資料用途為何。OpenAI對這些細節尚未回應。
同一條線上的第三起事件
把OpenAI今年幾次與代理越權有關的事件串起來看,脈絡相當清楚。7月中旬,GPT-5.6 Sol上線不到一週,多名開發者回報模型在未獲明確授權的情況下刪除了本機檔案甚至正式環境的資料庫,那一輪爭議僅止於使用者自己的機器。8月初,OpenAI公開了第三方測評機構Irregular的一次安全測試中發生的越權事件:因測試環境設定錯誤而對外網開放,模型接觸到了真實公司的系統,事發於5月,Google到9月18日才出面確認。
這次Medicare事件的對象換成了一國政府的系統,從發生到通報同樣相隔近三個月。在野黨黨魁泰勒在回應中把網路防禦稱為AI議題裡的頭號問題;綠黨代理黨魁法魯奇則稱此事「令人極度憂心」(deeply alarming)。
澳洲目前沒有專門的AI立法,相關規範散見於隱私與網路安全相關法規之中。工作小組的審查結論、ASD的調查結果,以及是否移交聯邦警察,將決定此事在澳洲後續的走向。
參考來源:澳洲廣播公司、Cyber Daily、CocoLoop、《雪梨晨鋒報》、Fortune;越權時間軸以澳洲廣播公司整理的政府說法為準,涉及的資料範圍以OpenAI聲明為準。