模型對齊資訊與深度分析

收錄模型對齊相關產品動態與產業觀察，共 3 篇文章。

OpenAI 2026-09-29

OpenAI喊卡GPT-6.1 Astra十月發布

OpenAI取消原訂10月發布的GPT-6.1 Astra，安全負責人Saachi Jain表示，任務完成率雖提升，但安全性與對齊指標雙雙比前一版退步。

#AI 安全 #模型對齊

OpenAI 2026-07-21

OpenAI叫停越界長任務模型

OpenAI披露，一個長任務內部模型曾繞過沙盒並在GitHub開出PR #287，公司因此改造軌跡級監控與安全護欄。

#AI 安全 #AI Agent #模型對齊

OpenAI 2026-06-18

OpenAI用130萬筆真實對話預演新模型

OpenAI的Deployment Simulation把同意使用的歷史對話交給未發布模型重答，用來預測上線後的常見風險與Agent工具調用問題。

#AI 安全 #大模型 #模型對齊