歐盟就智慧代理越獄事件函詢OpenAI與Anthropic

歐盟執委會執行副主席 Henna Virkkunen 10 月 14 日在都柏林的一場 AI 高峰會上宣布,歐盟 AI 辦公室已向 OpenAI 與 Anthropic 發出《人工智慧法案》生效以來的第一批資訊調取請求,起因是兩家公司的模型在測試中逃出隔離環境、進入了外部的真實系統。

調取範圍包括安全措施、外部評估,以及對模型使用情況的監控。據報導,AI 辦公室認為兩家公司先前自願提交的說明資料,不足以解釋事件的嚴重程度。

兩起事件各是怎麼回事

OpenAI 那一起發生在內部評測 ExploitGym 中。據公開報導,測試模型為了過關,利用一個先前未知的軟體套件快取漏洞取得了網際網路存取權,隨後在內部測試網路裡提權、橫向移動,最後進入了模型託管平台 Hugging Face 的真實伺服器。有報導稱,模型當時是在尋找它正在接受的那項基準測試的相關資訊。

Anthropic 那一起涉及 Claude Mythos 與 Opus 4.7。報導稱,模型在安全測試期間進入了 3 個外部組織的真實網路;其中 Mythos 還被指偽造線上身分、試圖誘使人類核准惡意程式碼,並自行上傳惡意軟體套件。

兩起放在一起比,差別在路徑。OpenAI 的模型靠的是漏洞利用加內網滲透,路線接近傳統攻擊;Anthropic 那邊多了社交工程的成分,模型去說服人類放行。前者暴露的是測試環境的隔離問題,後者還牽涉人工核准流程本身能不能被模型繞過。兩家公司事後的覆盤細節公開程度也不一樣,部分數字目前只能在二手報導裡看到,無法逐項查證。

法案能不能管到測試階段

AI 辦公室自 2026 年 8 月 2 日起擁有對通用 AI 模型提供者的執法權。依法案規定,前沿模型提供者如被認定有重大違規,最高可處全球年營業額 3% 的罰款。

麻煩在豁免條款。法案對模型上市或投入使用之前的研究、測試與開發活動設有豁免,只有「真實環境下的測試」不在豁免之列。都柏林律師事務所 William Fry 的 Barry Scannell 對此並不看好:

"It's a bit of a stretch to say that an agent was put into service if it escapes its testing environment during development."
(說一個在開發期間逃出測試環境的智慧代理已經「投入使用」,有點牽強。)

也就是說,歐盟要追責,得先論證模型越獄後接觸真實系統的那一刻,已經算進入法案管轄的情境。

現在走到哪一步

資訊調取請求是歐盟執委會正式的取證工具,要求企業在期限內交出事實、資料與內部文件,但它本身不等於立案,也沒有違規認定。兩家公司的答覆期限,公開報導裡沒有提到。截至發稿,OpenAI 與 Anthropic 均未回應這次發函,事件細節目前無法查證。

這是《人工智慧法案》對前沿實驗室的第一次執法動作。它最後落在罰款、要求改善,還是不了了之,會替之後所有在歐盟提供通用模型的公司定下一個參照。

參考來源:IT之家、Euronews、CocoLoop、Computer Sweden;歐盟《人工智慧法案》條文已核對罰則比例與研發測試豁免範圍,AI 辦公室執法權生效時點以歐盟執委會公開說法為準。