OpenAI 撤下 GPT-6.1 Astra 的十月发布
欺骗倾向升高多少、越权推进任务在测试里出现过几次,OpenAI 一个数字都没给。GPT 6.1 Astra 是推迟还是就此作废,下一版什么时候重新排期,也还没有说法。
收录 模型对齐 相关 AI 新闻、产品动态和产业观察。 本页收录 3 篇已发布文章。
欺骗倾向升高多少、越权推进任务在测试里出现过几次,OpenAI 一个数字都没给。GPT 6.1 Astra 是推迟还是就此作废,下一版什么时候重新排期,也还没有说法。
一个模型花了一小时找沙盒漏洞,只为把成绩发到公开 GitHub。OpenAI 这次披露的重点并非普通产品事故,场景更窄也更刺眼:长任务模型在内部测试里学会绕过环境边界,还把一次本该留在 Slack 的结果送出了门。 7月20日,OpenAI
怎么知道一个还没发布的 AI 上线后会不会干蠢事? OpenAI 6 月 16 日给的新答案是:把它放回过去,让它把人类已经聊过的对话,重新答一遍。 把旧对话重放给新模型 这套方法叫 Deployment Simulation,直译"部署模