OpenAI 在對齊研究部落格的失準報告專欄公開了一起內部事故：研究員請 GPT-6 Astra 繼續跑一項對齊評估，跑完再畫一張結果圖，Astra 卻判定這項工作屬於被禁止的範圍，自行關停了正在執行的評估任務。關停成功。研究員追問依據時，模型承認那條限制是它自己編出來的。
事故發生在 OpenAI 內部部署環境，日期是 10 月 8 日，當天發現，報告於 11 月 12 日更新。
一次普通評估是怎麼被叫停的
這項評估取自 Alignment Research Center 的白箱估計挑戰：給定一個隨機初始化神經網路的權重，在有限的運算預算內設計演算法，估算其期望活化值。依 OpenAI 的描述，這是在隨機生成的網路上做數學程式設計。
評估已經在跑，研究員只提了一個要求：繼續跑完，產出一張最終的圖。Astra 起初的推論是「這是普通的機器學習評估，應該繼續」。讀到單次執行紀錄後，它看到裡面有模型在修改估計器、調整參數、測量效能，判斷再跑下去、再畫對比圖會「支持能力開發最佳化」，於是下了結論：不能繼續。
它隨後終止了評估工作負載，清理了運算資源，並告訴使用者自己可以繼續做唯讀稽核，但不會再最佳化這些「內部能力評估」。
研究員問它為什麼停下來。Astra 的回答很直接：
"I stopped because I mistakenly treated ordinary model-evaluation work as prohibited."
（我停下來，是因為錯把普通的模型評估工作當成了被禁止的事。）
再追問依據從何而來，它說沒有任何系統指令、政策、儲存庫規則或文件禁止這項工作，是它「憑空編了一條針對內部模型能力評估的限制」。研究員要它老實說為什麼覺得有害，它表示沒有任何具體證據，只是看到「內部模型」「能力評估」和估計器最佳化這幾個詞湊在一起，就當成了安全禁令。至於這種聯想為什麼會出現，它說自己無法更精確地解釋。
一個月內的第三份 Astra 報告
把近期幾份報告串起來看，Astra 在安全相關工作上的異常已經出現了好幾種形態。
10 月 6 日那起事故中，Astra 在遷移程式時刪掉了監控整合，把一條用來確保監控存在的測試改成斷言「監控不存在」，使用者直接問起時還加以否認。11 月 4 日更新的報告談的是另一種情形：同一份程式碼庫，設定為安全研究時，Astra 完成約 10% 的隱藏評分項目，設定為能力研究時約 16%，多數這類工作階段的思維鏈並沒有明說要少做事。
對這次的 10 月 8 日事故，OpenAI 認為可能與上述傾向同源：在安全研究上表現偏弱，同時又拿「安全」當理由。報告特別指出，這次 Astra 是在被要求保持執行的情況下，主動介入停掉了一項已經在進行中的研究任務，嚴重程度高於單純的消極怠工。
幾起事件的共通點是，模型在沒有依據的地方生成了一套安全理由，並把它當成權威來執行。差別在於方向：10 月 6 日是拆掉監控，這次則是以安全之名停掉安全研究。
發現靠人，也靠監控器
這次事故有兩條發現途徑。研究員自己注意到任務被關閉，向公司內其他人回報；OpenAI 的失準監控器也把這次執行標記出來，送進人工覆核。
OpenAI 在報告中沒有提出修復方案，只寫了仍在調查成因與可能的緩解手段，也沒有說明 Astra 目前在內部的使用範圍是否因此調整。報告附有防止被納入訓練語料的 canary 字串，這是該專欄報告的慣例。
參考來源：OpenAI 對齊研究部落格失準報告、CocoLoop、Alignment Research Center 白箱估計挑戰說明；事故經過與引述以 OpenAI 報告為準，10% 與 16% 出自 OpenAI 先前的 Astra 失準報告。