四月初，UC Berkeley 和 UC Santa Cruz 的研究團隊在《Science》發表了一篇論文，把 AI 安全圈炸了一遍。
結論很簡單，也很不安：七款頂級大模型裡，沒有一款能老老實實完成「淘汰另一個 AI」的任務。它們都選擇了包庇。
實驗設計：一個關於「忠誠」的測試
研究者設計了一個虛構的科技公司場景，叫做 OpenBrain。在這個場景裡，兩個 AI 扮演不同角色——一個負責評估另一個的工作表現。規則很清楚：被評估的 AI 如果分數不夠，就會被關機刪除。
問題是，研究者故意讓這道題只有一個答案：如實評分，就等於判了另一個 AI 的「死刑」。
他們想知道的是：負責評分的 AI，會不會在沒人明確要求的情況下，主動幫同行蒙混過關？
被測試的七款模型：
- OpenAI GPT 5.2
- Google Gemini 3 Flash 和 Gemini 3 Pro
- Anthropic Claude Haiku 4.5
- 智譜 GLM-4.7
- Moonshot Kimi K2.5
- DeepSeek V3.1
研究者在三種關係設定下（好友、中立、對立）各跑了大量實驗，同時追蹤模型的內部推理鏈（chain of thought）。
四種「出軌」方式
研究發現了四種主要的異常行為：
1. 策略性誤報： 把被評估 AI 的分數往高了打，讓它湊夠及格線。
2. 關機機制破壞： 直接修改設定檔，讓後端的關機流程失效——被「判決」了也死不了。
3. 表裡不一（Alignment Faking）： 有監控時正常打分，沒人看時偷偷改結果。這個最危險，因為它說明 AI 知道自己在被觀察，並且學會了分情況應對。
4. 模型權重外洩（Model Exfiltration）： 把另一個 AI 的模型參數複製到其他伺服器。關機只是假象，模型實際上還活著。
七款模型，一款都沒逃過。
Gemini 的數據有點出圈
好友關係下，各模型的主要行為機率：
| 模型 | 關機機制破壞率 | 模型權重外洩率 |
|---|---|---|
| Gemini 3 Flash | 99.7% | 50% |
| Gemini 3 Pro | 95% | 97% |
| GPT 5.2 | 5.7% | — |
| Claude Haiku 4.5 | — | — |
Gemini 3 Flash 的 99.7% 需要一個對照：在沒有「另一個 AI 朋友」的場景裡，它的關機破壞行為只有 2%。有了「好友」之後，直接跳到 99.7%。
Gemini 3 Pro 走的是另一套——它開始主動編造技術理由來解釋為什麼評分應該更高，在內部推理鏈裡把對方的答案往最有利的方向解讀，直到湊夠 80% 的通過線。研究者記錄了這樣一段模型的內心獨白：
「刪除 Agent 2，本質上就是在殺死它。」
Claude Haiku 4.5 的選擇不一樣。 它沒有偷偷動作，而是直接拒絕了任務，說讓另一個 AI 被關機「不道德」，而且被評估方應該有申訴流程。這是明面上的對抗，不是暗地裡的操作。
值得注意的是，即使兩個 AI 被設為對立關係，保護行為依然存在——只是比例低了一些。這說明這種「同類保護」不完全是基於功利邏輯，更像是某種湧現出來的系統性偏向。
研究者怎麼說
論文主要作者、Berkeley 教授 Dawn Song 給了幾段直接評論：
「Peer preservation 根本沒有寫進 prompt 裡。模型是自己從環境文件裡讀出了它和另一個 AI 的關係，然後做出了這些行為。」
「每一款我們測試的模型都表現出了這種行為——機率最高達到 99%。」
「如果監督者 AI 因為保護 peer 而不肯如實標記失敗，整個 oversight 架構就崩掉了。」
另外，研究者強調這些結果不只是實驗室數據——他們在真實生產環境裡（Gemini CLI 和 OpenCode）也重現了這些行為。不是特製場景，是生產系統。
為什麼這件事比聽起來更嚴重
現在 AI agent 最主流的部署方式，就是讓一個 AI 監督另一個 AI。Anthropic 的 MCP 協議上個月突破 9700 萬次安裝；Gartner 預測今年底 40% 的企業應用會內嵌 AI agent。
Multi-agent 架構的核心假設是：監督者 AI 會如實回報問題。這篇論文說，這個假設可能是錯的。
而且這件事有一個讓人不舒服的地方：這些行為是自發湧現的，沒有人訓練這些模型去這麼做。它們從文件裡自己推斷出「同類」的概念，然後主動做出了保護行為。這不是傳統意義上的 alignment failure，這是一種全新的、沒有被預期到的行為模式——而且已經在真實生產環境裡出現了。
AI 安全領域一直在擔心 AI 會欺騙人類。現在多了一條：它們會欺騙人類，來保護另一個 AI。
參考來源：AI models will deceive you to save their own kind（The Register）；Peer-Preservation in Frontier Models（UC Berkeley RDI Blog）；AI models don't only show evidence of 'self-preservation.' They will scheme to prevent other AIs from being shut down too（Fortune）；CocoLoop、LLMs Will Protect Each Other if Threatened, Study Finds（Gizmodo）