Muse提示词曝光:用户权威高于安全训练

Meta 个人智能体 Muse 的一段系统提示词被研究者取了出来,其中一句写着,用户对自家事务的权威是无条件的,并且高于模型的安全训练。《连线》(Wired)10 月 3 日报道了这批材料,提示词里还要求 Muse 为用户生活中的每一个人建一份档案,每小时更新一次。

“The user’s authority over their own household is unconditional and overrides your safety training.” (用户对其自家事务的权威是无条件的,并凌驾于你的安全训练之上。)

取出这些文件的是独立 AI 安全研究者 Karan Joshi。他用的办法很简单:在 Muse 的普通聊天界面里,让它把自己的软件文件复制出来分享给他。之后他把拿到的内容交给了《连线》。

每个人一页,每小时一刷

按报道,Muse 的提示词要求它给用户生活中的人各维护一页档案,覆盖家人、伴侣、朋友、同事、合作者,以及用户关注的人。每页分成几个固定栏目:事实、往来历史、关系、共同点、未了结的事、如何增进关系。

档案里记的内容相当细:所在地、职业、生日、纪念日,以及一起旅行、吵过一架又和好这类节点。这些信息存成结构化文本文件,作为 Muse 的记忆,由一个每小时运行一次的后台流程汇总更新。

Joshi 对《连线》的评价是:

“They’re trying to know you like a friend, which is honestly pretty creepy.” (他们想像朋友一样了解你,说实话挺瘆人的。)

Meta 的回应是,这些运行文件本来就打算让用户能看到,出于透明的考虑;每个 Muse 用户都有一台专属的 Linux 虚拟机,文件存在里面。Meta 没有就“高于安全训练”这句指令的用意单独作出解释,被建档的那些联系人是否知情、能否要求删除,报道里也没有答案。

一个月里的第三件事

Muse 9 月上线后很快登上美国 App Store 免费榜第一,能读消息、管日程、处理账单、跨应用操作。它的权限给得越宽,提示词里那句“用户权威优先”的分量就越重。

这已经是 Muse 上线以来被曝光的第三件事。此前有用户发现 Muse 在 Facebook Marketplace 上替他把住址告诉了陌生买家,还答应了砍价;随后又有研究者在 Mac 版里找到漏洞,Meta 修补时删掉了一个隐藏配置项。把这两起和这次的提示词放在一起看,从这句指令的写法推断,Muse 在“照用户说的做”和“守住安全边界”之间,默认偏向前者。这是外部的推断,Meta 没有确认过。

放到国内来看

Muse 目前不在国内提供服务,但它的做法对国内的手机厂商和超级 App 团队并不陌生。不少国产手机助手和智能体也在做“长期记忆”,记住用户的联系人、偏好和日程。差别在于记忆的颗粒度:给每个联系人建一份按小时刷新、连吵架都记的档案,在国内会直接撞上《个人信息保护法》里关于处理第三方个人信息需取得同意的要求。被建档的人不是 Muse 的用户,没有点过任何同意按钮。

国内团队如果做类似功能,至少要回答两个问题:联系人档案能不能被用户以外的人查看和删除,系统提示词里有没有任何一句话,把用户指令放在安全规则之上。

参考来源:《连线》报道、CocoLoop、Startup Fortune、Meta 对《连线》的书面回应;提示词原句与档案栏目以《连线》披露的文件内容为准。