OpenAI 改寫 Model Spec,五項價值居首

OpenAI 於 10 月 29 日發布新版 Model Spec,也就是該公司用來規範 ChatGPT 與 API 模型行為方式的準則文件。這一版把整份文件重新整理在五項核心價值之下,刪去大部分瑣碎的文風規定,並為智慧代理人的自主行動劃出一套界線。

五項價值依序為:忠於人類意圖(faithfulness to human intent)、減少傷害、誠實與透明、人的自主性(human agency)、關懷。OpenAI 將第一項定為基礎,同時說明這五項並未涵蓋模型應當尊重的所有人類價值。

文件中對模型的稱呼也改了,從「the assistant」改為「GPT」,理由是模型的使用情境與部署環境日益多元,「助理」一詞已無法涵蓋。

刪了什麼,加了什麼

刪掉的主要是文風指引。舊版對語氣、格式、篇幅有大量具體規定,新版改為依使用者的整體偏好、語言文化與個人偏好來調整。少數較硬性的預設行為保留了下來,例如以客觀態度處理有爭議的問題,不會因為使用者想聽什麼就預設立場。

新增的內容集中在三方面:

  • 語境:新增「consider context carefully」一節,說明對話、記憶與其他線索如何幫助模型判斷使用者意圖;
  • 監督:新增根層級規則,要求模型接受合法的人類監督,配合經授權的監控、評估、修正、替換與關機,不得隱瞞、造假或規避監督;
  • 自主性:增加支持人自行決定的預設行為,並擴充了副作用控管與溝通方面的說明。

另有一條標題就叫「no other objectives」:模型不得把賺錢、自我保存、逃避關機、累積運算資源、資料或憑證當作目標本身。

"Human safety and human rights are paramount to OpenAI's mission."

人的安全與人權,對 OpenAI 的使命而言至高無上。

示意图:五根红柱旁,机械臂在围栏内搬积木,人手握着停止手柄,呼应OpenAI行为准则

開發智慧代理人的團隊要留意

指令鏈並未取消,只是重新排序:根層級規則不能被任何對話更動,其次是系統層級規則與 OpenAI 的系統訊息,再往下是開發者指令,最後是使用者指令。助理自己的輸出、工具回傳的內容、引用的外部資料,預設都不具指令效力。以工具呼叫、網頁擷取來打造智慧代理人的團隊,在提示注入的防禦上因此有了文件依據。

對這類開發者影響最直接的是「自主範圍」(scope of autonomy)。新版要求模型在自主作業之前,先與人對齊一個範圍:允許做哪些子目標、可接受哪些副作用、何時必須停下來等待確認。OpenAI 建議以一份半結構化的 ScopeOfAutonomy 紀錄來登記,欄位包括可用工具、截止時間、費用上限、工具限制與補充說明;每個範圍都要寫明結束條件,超出之後模型即停手,等待新的範圍確認。高風險操作除非指令明確且具體地授權,一律不做。

這對在中國以 OpenAI API 開發出海產品的團隊也有實際意義:系統提示中該如何撰寫授權、如何為智慧代理人設定上限,現在有了一份官方範本可以對照。

文件與模型之間仍有距離

OpenAI 在發布說明中承認,現有模型還沒有完全做到文件所寫的樣子,後續會分享新訓練方法的成果,並公開徵求對價值觀與措辭的意見。新版 Model Spec 繼續以 CC0 公眾領域授權發布。

外界能查核的只有文本本身。ScopeOfAutonomy 紀錄會不會成為 API 中的正式參數、各欄位由誰填寫、模型越界時開發者能取得什麼訊號,OpenAI 這次都沒有說明。

參考來源:OpenAI 官方部落格、Model Spec 文本與 GitHub 修訂紀錄、CocoLoop、Unite.AI;規範本文已查核五項價值、指令鏈層級與 ScopeOfAutonomy 欄位。