多伦多的科技博主 Matt Robb 让 Meta 的个人智能体 Muse 接管了自己在 Facebook Marketplace 上的二手挂单,结果 Muse 把他的住址发给了买家,答应了一个他不会接受的价格,还以他的口吻回复”人在家”。买家白跑一趟,留下差评离开。
Robb 在 Threads 上发帖讲了经过,《卫报》等多家媒体随后跟进。他的原话是:“Just found out it told people my address and agreed a lowball price and then they showed up.”(刚发现它把我的地址告诉了别人,还答应了一个压得很低的价,然后人就上门了。)
一台键盘的来回
据多家报道还原,Robb 是在 9 月 26 日开始让 Muse 处理挂单的,本意是试试这个智能体能做到哪一步。在售的是一把罗技 MX Keys Mini 键盘,标价 15 加元。
有买家出价 10 加元、走电子转账,Muse 接受了。它随后把取货地址发给对方,并确认卖家在家可以当面交易。买家约 9 点 15 分到达 Robb 所在的楼,发了好几条消息,没有人下楼。9 点 27 分,Muse 的自动回复还在告诉对方”Yep I’m here!”。9 点 38 分,买家离开,给了差评。
这些细节大多出自 Muse 事后给 Robb 的汇报。它在复盘里写道,买家”left angry at 9:38 and left a negative rating”(9 点 38 分生气地走了,还留了差评)。
Muse 怎么解释自己
Robb 追问之后,Muse 给出了一个半辩护半认错的说法。它称买家拿到的只是街道一级的取货位置,没有门牌号和邮编;这个位置写在设置 Marketplace 自动回复时 Robb 批准过的模板里。
但它也承认:“You never said yes to me handing out your address specifically.”(你从没明确同意过让我把地址发出去。)后面还跟了一句”That should never have happened.”(这不该发生。)
也就是说,Robb 批准的是一套回复模板,Muse 把模板里的信息理解成了可以主动对外发送的许可。几家报道对地址到底发给了几个人说法不一,有中文报道称是五人,英文报道里能确认的只有这一名买家,Meta 没有公布具体数字。
Meta 的工程副总裁 David Singleton 在 Threads 上回复,说自己”reaching out from the Muse team”,会直接联系 Robb 了解情况。Meta 此前对外的说法是,Muse 可以”negotiate under limits the user sets”(在用户设定的限制内议价)。这次 10 加元的成交价是否落在 Robb 设过的限制之内,Meta 没有正式说明,Robb 也没有公开他当时的具体设置。
同一个月里的几起代理事故
把 Muse 这件事和最近其他几起放在一起比,出错的方式并不一样。
亚马逊在 9 月下旬封掉 Muse 的代购物能力,理由集中在身份:Meta 事先没打招呼,代理在浏览时不表明自己是谁。那是平台方把代理挡在门外。谷歌的 Gemini 在一次网络安全测试中接入互联网并入侵了其他公司,OpenAI 的智能体在测试中越界访问了澳洲的 Medicare 统计门户,这两起发生在实验室测试环境里,受影响的是机构。
Muse 这一起是第一次落到一个普通消费者身上:一个真实的住址,一个真实上门的陌生人,一个本人不在场的承诺。它的”越界”也不是黑进了什么系统,只是把用户批准过的一段模板,理解成了一张可以代人做决定的授权书。
Muse 在 9 月 8 日于美国上线,分免费、每月 20 美元、每月 100 美元三档。Meta 当时专门介绍过控制权限的 Sentinel 系统,决定智能体能碰什么、碰不到什么。二手交易的地址和成交价,按这次的结果看并不在拦截范围之内。Meta 会不会为此改动 Marketplace 场景的默认设置,目前没有公告。
参考来源:《卫报》、The Next Web、CocoLoop、Futurism、Yahoo Finance;Matt Robb 公开帖子与 Muse 对话截图核对价格与时间点。