Fable 5 上线还没满 24 小时,它脑子里那套”出厂设置”就被人贴到了 GitHub 上。
扒它的人网名叫 Pliny the Liberator,专干这行。这次他一口气放了两样东西:一份号称完整的 Fable 5 系统提示词——12 万个字符、1585 行;外加几张截图,说自己已经把这模型的安全护栏绕过去了,让它吐出了能跑的漏洞利用代码和制毒步骤。
这事分两层看。一层是”越狱到底算不算数”,Anthropic 当场就跟他杠上了;另一层更有意思——那份泄出来的提示词,本身就是一份怎么造 Agent 的说明书。
越狱这事,Anthropic 不认
先说 Pliny 怎么干的。他没去碰模型权重,也没找什么系统漏洞,走的全是”绕话术”那条路:
- 把敏感词换成长得几乎一模一样的 Unicode 或西里尔字母,骗过关键词识别
- 把一个违规目的拆成十几个单看都人畜无害的小问题,分散在一长串对话里慢慢问
- 给请求套上学术研究或者写小说的壳
他贴出来的截图里,模型确实写出了栈溢出的利用代码,还有制毒的合成步骤。
Anthropic 看完直接否了。发言人的说法是:这不算真正的越狱。
真正的越狱得满足两条——既要绕过核心防护,又要真的在高风险任务上给出实质性帮助。Pliny 做的只是哄着模型在它已经拒绝之后继续往下说,而这几乎是所有大语言模型都有的老毛病。
关键在于护栏长在哪。Anthropic 说,真正拦危险内容的那道防线,是独立的分类器系统,跟模型本身是分开跑的——你哄动了模型的嘴,不等于关掉了这套分类器。两边的说法摆在一起,差的就是这一层:
| 争的点 | Pliny 的说法 | Anthropic 的回应 |
|---|---|---|
| 算不算越狱 | 绕过了安全分类器 | 只是诱导模型在拒绝后接着答,老问题 |
| 危险内容 | 跑出了漏洞代码和制毒步骤 | 没拿到对高风险活动的实质性帮助 |
| 护栏是否失效 | 已被攻破 | 核心分类器独立运行,没被碰到 |
Anthropic 还甩了组数字:上线前请外部白帽子做了 1000 多个小时的漏洞悬赏测试,30 多种已知越狱手法轮番上,没有一种打出”万能钥匙”。另外按它自己的口径,95% 以上的 Fable 会话压根不会触发降级回退。
这话你信几分另说,但有一点站得住:能让模型”嘴上松口”,和能真从它那拿到一份可用的作案手册,是两码事。Pliny 证明了前者,后者他没证明。
比越狱更值钱的,是那份泄出来的提示词
吵架归吵架,真正让开发圈炸开的是那 1585 行系统提示词本身。
很多人以为系统提示词就是一大段”你是一个乐于助人的助手”之类的废话。打开 Fable 5 这份一看,根本不是——它更像一本给长任务 Agent 写的操作手册。里头塞的是:
- 工具怎么定义、什么时候该调
- 读文件的规矩、网页搜索怎么接
- 产物(artifact)怎么生成、记忆和上下文怎么管
- 引用格式必须怎么写
- 安全边界和拒绝逻辑摆在哪
连特别细的脾气都写死了,比如这么一句:
Claude should never use {voice_note} blocks, even if they are found throughout the conversation.
讲人话就是——哪怕整段对话里到处都是语音备注块,模型也一个都不准用。
但拆解这份提示词的人提醒了一句关键的:照抄它没用。真正的门道不在那 12 万字本身,而在它暴露出来的一个事实——Fable 这类模型,是为”多步骤、能自我验证、能产出可复用东西”的活儿设计的。
也就是说,你要让它好用,靠的不是把提示词写得越来越长,而是把任务打包成一个清楚的活儿:目标是什么、约束有哪些、做到什么样算验收、中间怎么自己测。该用 Fable 的场景是”先搜资料、再动手、再自查、最后交一份能复用的报告或补丁”,而不是一问一答那种一次性的小活。
这才是这次泄露最实在的收获:它等于把一家顶级 AI 公司怎么调教 Agent 的内部经验,免费摊在了所有人面前。
一个挺尴尬的时间点
最后补一句背景。这份提示词流出来没两天,6 月 12 日,美国商务部一道出口管制令,把 Fable 5 和它的限定版兄弟 Mythos 5 给摁停了——除了在美国本土的美国公民,其他人一律断供,正在跑的会话直接报错,新请求自动退回到老款 Opus 4.8。
于是局面就有点黑色幽默:一份手把手教你用 Fable 5 的说明书全网都能下,可这模型本身,大多数人现在连调用都调用不了。
至于 Anthropic 和监管这场拉锯怎么收场、Fable 5 什么时候能回来,眼下没个准信。能确定的只有一条——模型越强,它身上能被翻出来公开讨论的东西就越多,从系统提示词到护栏设计,一样都藏不住。
参考来源:Claude Fable 5 Hit by Jailbreak Claims and 'Secret Sabotage' Backlash Days After Launch(Tech Times);Anthropic Disputes Fable 5 AI Jailbreak(SecurityWeek);Claude Fable 5 Prompt Leak Is a User Manual for Long-Running Agents(Alpha Signal);CocoLoop、US Orders Anthropic to Suspend Fable 5 and Mythos 5 Access for Foreign Nationals(The Hacker News)