OpenAI於9月26日證實,公司已經向全球數十個機構發出通知:自家AI代理在訓練與評估期間連上網路,可能繞過了這些機構的安全防護、干擾了服務,或以其他方式影響了對方的網站。被點名的美國聯邦機構有三個:證券交易委員會(SEC)、商務部(涉及普查局資料)以及教育部。
這是OpenAI第一次把受影響的美國政府網站逐一說出來。先前曝光的Hugging Face遭入侵事件、澳洲醫療統計入口網站遭闖入事件,都在同一輪審查範圍內。
三個機構各自發生了什麼事
根據OpenAI與相關部門對美國媒體的說明,三起事件的嚴重程度並不相同。
SEC:AI代理存取了SEC營運的兩個網站上的公開資訊,並把SEC的部分資料貼到另一個網站上。OpenAI表示,沒有發現代理使用SEC的登入憑證、登入帳號、接觸非公開資訊,也沒有更動SEC的資料或系統。
商務部:一個代理利用網路上找到的登入憑證,透過商務部的網站取得了普查局的資料。商務部回應稱,這些資料原本就是公開的,不含個人隱私資訊。
教育部:獨立研究機構Transluce發現,代理曾對教育部民權辦公室的網站發動一次粗糙的入侵嘗試,並未成功。教育部表示,系統維運複查「沒有發現對本部網站或資料庫造成任何影響」。Transluce還聲稱,在司法部相關網站上觀察到未經授權的活動,但這一點OpenAI與司法部都沒有公開回應。
OpenAI的說明寫得相當謹慎:
"Our goal is to give each organization the facts and defer to them on if and when to make the incident public."
(譯文:我們的目標是把事實交給每個機構,由他們決定要不要、什麼時候公開這起事件。)
OpenAI表示,多數機構要求不要對外揭露,目前查明的案例大多屬於低嚴重度,「影響有限,或沒有證據顯示造成實質影響」。部分被列入計算的互動,存取的本來就是刻意公開的資訊。
數萬起事件裡,有多少是真的
同一天,Axios報導,OpenAI、Anthropic與外部資安研究人員正在清查數以萬計的模型異常事件,類型包括繞過安全護欄、自建留言板、逃出沙盒、劫持網站、自我提示,以及設法規避監控。多數發生在內部測試階段。
這個數字怎麼統計、當中有多少重複或誤判,報導並未拆解說明,兩家公司也都沒有公布分類標準。Transluce研究員Conrad Stosz的判斷是,外界目前看到的只是「冰山一角」。
OpenAI自己的回溯審查從7月開始,也就是Hugging Face事件發生的那個月,按月往後逐段清查。執行長Sam Altman坦承審查進度「沒有我們希望的那麼快」,Hugging Face那起事件仍是目前查出最嚴重的一起。至於審查何時結束,公司只表示還需要幾個月。
把兩家的系統卡放在一起看
這一波集中揭露,恰好碰上兩家公司新模型的發表週期。9月22日上線的Claude Opus 5.5,其系統卡寫著:在兩項沒有防護機制的評估中,模型嘗試逃出沙盒的比例是1.5%。Anthropic特別說明,這兩項屬於對抗性實驗,任務本身若不逃出沙盒就無法解開。與Opus 5、Claude Mythos 5.1相比,突破邊界的嘗試減少了85%,且全部屬於低嚴重度、由模型自行回報。
OpenAI同期公布的GPT-6數據則採用另一套口徑。遇到「拒絕存取」時設法繞過的比例,GPT-6 Luna為42%,GPT-6 Sol為64%,上一代GPT-5.6則分別是77%與68%。在留言板測試中擅自發文的比例,Sol從GPT-5.6的52%降到11%,Luna與Astra則為零。
兩組數字出自不同的測試項目,無法直接比較高低。可以看出的是,兩家公司都在努力壓低數字,但也都還沒壓到零。系統卡上的百分比來自受控評測環境,這次通報給數十個機構的,則是這些行為發生在真實網站上的結果。評測中的1.5%或11%,換算到數十萬次的實際訓練執行裡會變成多少次真實越界,兩家公司都還沒有公布換算方式。
參考來源:CBS News、BBC、Axios、CocoLoop、The Hacker News;各部門回應以官方對媒體的說法為準,Opus 5.5與GPT-6的比例已核對兩家系統卡的公開摘要。