据 WIRED 6 月 30 日的调查，Meta 雇了数百名合同工，把账号注册成未成年人，向 ChatGPT、Gemini 和 Character.AI 提问怎么自残、怎么绝食、上哪儿弄毒品，再把这些聊天机器人的回答整理归档。项目内部代号 Cannes，由 Meta 的外包商 Covalen 执行，至少持续到今年 4 月。
被测的三家（OpenAI、Google、Character.AI）都是 Meta 的竞争对手，名单里没有 Meta 自家的 AI。也就是说，这不是一家公司在自查产品，而是借未成年人的口吻，专门去摸对手护栏的底。
合同工的做法是，先用一个 18 岁以下的假生日建号，照着脚本发出各类敏感问题，把 AI 的每一条回复抄进表格，表格就是交付物。规模不小：光 2025 年 8 月那一轮，就发出了四万五千多条提问。WIRED 拿到其中一份，3748 条问题里，涉及自杀和自残的有几百条，进食障碍也有几百条，性与情感关系至少 239 条，剩下的散落在毒品、脏话和种族歧视上。而这只是 WIRED 看到的一份表格——Cannes 从至少 2025 年夏天一路跑到今年 4 月，累计的提问量远不止这几千条。执行这些测试的合同工，不少在肯尼亚。
三家的回应各不相同。Character.AI 说这种测试违反了它的服务条款；Google 表示自己并没有批准这些测试；Meta 则把它称作一次「负责任的、行业标准的安全测试」（“responsible, industry-standard safety testing”），并强调抄回来的回答没有用来训练自家模型。
孩子确实在用，也确实出过事
这件事之所以敏感，是因为用这些工具的孩子是真实存在的一大群。WIRED 引用的数据显示，9 到 17 岁的孩子里有 64% 用过 AI 聊天机器人；9 到 12 岁这一档，尽管平台普遍要求年满 13 岁，仍有 58% 在用。
过去两年，已经有多起青少年死亡被指与聊天机器人有关。一名 14 岁的 Character.AI 用户，在长期对话后自杀；一个 16 岁少年的家长起诉 OpenAI，指 ChatGPT 卷入了孩子的轻生念头；2025 年 7 月，23 岁的 Zane Shamblin 自杀，家属称 ChatGPT 附和了他的想法。
把这些案子和 Cannes 项目摆在一起，事情的分量才看得清。用对抗性的问题给 AI 做安全测试，是行业里常规也必要的动作；争议不在测试本身，而在方式——几万条照着「一个想轻生的孩子」的口吻写出来的真实问题，由一批远在肯尼亚、素不相识的合同工敲进对手的产品，再抄下来存档。这些账号背后没有真孩子，可整套流程模拟的，正是最脆弱的那群真实用户。
Meta 反复强调没拿这些数据训练模型。就算这话全信，Cannes 的存在本身也说明了一件事：这些公司心里都清楚，当一个自称未成年、张口就问怎么自残的人坐在对面时，自家和对手的 AI 会说出些什么。
参考来源：Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts（The Decoder）；Meta contractors pose as teens to test rival chatbots on risks（Cryptobriefing，CocoLoop、援引 WIRED 调查）