OpenAI拆穿俄罗斯假智库,评级首次到5级

OpenAI 10 月 8 日发布威胁报告,称封禁了两起利用 ChatGPT 的隐蔽影响行动:一起来自俄罗斯,目标是拉丁美洲;一起来自伊朗,目标是全球中小型网络媒体。两起行动都用了同一种办法,先造一个看起来可信的”门面”,再借它往外送内容。

OpenAI 把俄罗斯这起评为影响行动突破量表(Breakout Scale)的第 5 类,这是它开始公开这类报告以来给出的最高等级。量表一共 6 级,级别越高,代表内容跨出的平台和人群越多、越接近主流舆论。

俄罗斯:一个真人在运转的”智库”

OpenAI 给这起行动起名 Dark Clark。操作者虚构了一位名叫 Mia Clark 的 AI 记者,让她以”社会研究中心”(Social Research Center,SRC)负责人的身份出现。这家机构在拉美有真实雇员,OpenAI 掌握的证据显示,这些员工并不知道自己在为一个俄罗斯团体工作。

行动的内容集中在损害乌克兰在拉美的形象,并介入当地政治。公开报道列出的事例分布在阿根廷、玻利维亚和厄瓜多尔,包括一段伪造的音频,内容是乌克兰领事辱骂厄瓜多尔公民;还有一则假消息,称厄瓜多尔的空壳公司在为乌克兰招募作战人员。这些内容引来了拉美主流媒体的事实核查和官方辟谣。

操作者还用 ChatGPT 讨论行动内部的事务,比如工资标准和招人决定。OpenAI 的评价是:

“the most complex attempt to run a front identity that we’ve disrupted over the past two and a half years.” (过去两年半里,我们拆掉的门面身份行动中最复杂的一次。)

伊朗:七个假记者,近百篇署名稿

伊朗这起被称为 Bogus Bylines。行动维护着 7 个”记者”人设,向世界各地关注国际事务的中小网络媒体投长稿,题材主要是美伊冲突,同时批量生成社交媒体评论。

“We identified almost 100 articles published or syndicated under the operation’s bylines across roughly a dozen online outlets around the world.” (我们发现,以该行动署名发表或转载的文章接近 100 篇,分布在全球约十几家网络媒体。)

文章投放这一项被评为第 4 类,社交媒体上的影响只到第 2 类,自然互动很少。

从 2024 年那份报告看过来

OpenAI 第一次公开这类报告是在 2024 年 5 月,当时点名了俄罗斯、中国、伊朗和以色列相关的五起行动,没有一起的突破等级超过第 2 类。两年多以后,评级到了第 5 类,变化出在手法上:两起行动都把 AI 和雇人、投稿、建机构这些传统办法捆在一起用,AI 负责批量写稿和维持人设,真人负责让门面看起来可信。

封号只能切断 ChatGPT 这一个环节。本稿依据的公开报道里,没有给出被封账号的数量,也没有提到 SRC 在当地是否仍在活动,那些不知情的员工和刊发过稿件的媒体如何处理,OpenAI 也没有说明。

参考来源:OpenAI 威胁情报报告、CyberScoop、CocoLoop、France 24;CyberScoop 与 France 24 交叉核对两起行动的突破等级与文章数量。