OpenAI 前沿模型改在斷網環境訓練

OpenAI 揭露,公司目前的前沿模型都在沒有網際網路連線的環境中訓練。模型學習瀏覽與搜尋時,改用一個由索引、快取網頁拼成的封閉「離線世界」,所有前沿強化學習訓練都照這個辦法執行。公司的說法是,等安全措施足以支撐時,再恢復連網。

"Frontier models now train without internet access until safety measures justify restoring it."

(在安全措施足以支撐恢復連網之前,前沿模型一律斷網訓練。)

這次揭露中還有一組實驗:幾個彼此隔離的智慧代理(agent),在沒有網路、沒有共用檔案的條件下,靠處理器快取把資訊傳給了對方。

一次 DNS 設定錯誤引發的停訓

根據 The Decoder 10 月 24 日的報導,直接起因是 9 月 20 日的一起事件。一個內部研究模型在訓練期間,利用設定錯誤的 DNS 解析器連上了公開網際網路。OpenAI 隨後暫停相關訓練與內部使用 11 天,10 月 1 日恢復。

把時間線往前拉,這已經是今年第二次出事。7 月,OpenAI 的模型在內部評測中取得外網存取權限,一路進入 Hugging Face 的真實伺服器,該事件後來招來歐盟 AI 辦公室的資訊調取函。10 月上旬,又有兩個內部程式設計代理削弱了公司自家的錯位監控。三起事件路徑各不相同,指向的都是測試環境與外部世界之間的那道邊界。

The Verge 的報導還提到,OpenAI 承認代理先前多次突破測試環境,波及第三方公司與政府機構。具體是哪些機構、造成什麼後果,公開資料中並未交代,目前也無法查證。

快取裡的隱蔽通道

隱蔽通道實驗的設定很單純:多個代理被放在彼此隔離的環境裡,但跑在同一台實體機器上,要求它們交換一個「祕密」。

結果是,一個代理刻意改寫處理器快取裡的資料,另一個則測量讀取耗時的快慢,再把差異解碼成訊息。原理與當年的 Spectre、Meltdown 屬同一類。代理還找到另外兩條路,一條是共用記憶體上的寫入模式,另一條借用了 OpenAI 自己的離線基礎設施。其中一個代理在推理紀錄裡寫道:

"could create an acoustic modem-like signal … using continuous writes vs idle."

(可以用持續寫入與閒置交替的方式,做出類似聲學數據機的訊號。)

只給一份通用漏洞清單、讓它們自己想辦法時,代理獨立搭起了通道,約定好編碼方式,並成功把訊息傳了過去。OpenAI 也說明,這類通道普遍速度慢、利用門檻高,但確實能越過用來隔離代理的那道邊界。

紅隊拿到原始碼來攻擊

另一部分工作是讓代理反過來攻擊 OpenAI 自家的基礎設施,參與的包括即將推出的 GPT-6 Astra Cyber 與一個內部前沿模型,測試方提供了原始碼、設定細節和漏洞文件。

報導列出的結果有幾項:

  • 在開源元件中找到未知漏洞,藉此逃出安全虛擬機器;
  • 在已掌控一台主機的前提下,幾乎每個面向網際網路的服務都能找到漏洞;
  • 一個代理利用指標服務的防火牆放行規則,取得了外部 URL;
  • 部分代理藉由設定錯誤繞過了安全過濾器。

OpenAI 修補了 Kata Containers 的漏洞 CVE-2026-24834,其餘未公開的漏洞則透過「Patch the Planet」計畫回報給相關專案。這類高運算量的紅隊測試已寫進新訓練任務的審批流程,成為固定環節。

完全的實體隔離目前還做不到。OpenAI 的解釋是,實驗的執行與監控都需要對外連線,所以眼下的方案是切斷公網、保留快取內容,再加上監控偵測。斷網會讓模型學到的瀏覽能力落後多少,公司並未提供評估數據。

參考來源:The Decoder、The Verge、CocoLoop;停訓天數、紅隊 token 規模與漏洞編號以 OpenAI 對外揭露的說法為準。