OpenAI揭俄羅斯假智庫 評級首見5級

OpenAI於10月8日發布威脅情報報告,指出已封鎖兩起利用ChatGPT進行的隱密影響力行動:一起來自俄羅斯,目標是拉丁美洲;另一起來自伊朗,目標是全球中小型網路媒體。兩起行動用的是同一套手法,先打造一個看起來可信的「門面」,再藉此對外散布內容。

OpenAI把俄羅斯這起行動評為影響力行動擴散量表(Breakout Scale)的第5級,這是該公司開始公開這類報告以來給出的最高等級。量表共6級,等級越高,代表內容跨越的平台與群眾越多,也越接近主流輿論。

俄羅斯:由真人運作的「智庫」

OpenAI將這起行動命名為Dark Clark。操作者虛構了一位名叫Mia Clark的AI記者,讓她以「社會研究中心」(Social Research Center,SRC)負責人的身分現身。這個機構在拉丁美洲有真實員工,OpenAI掌握的證據顯示,這些員工並不知道自己在替一個俄羅斯團體工作。

行動的內容集中在損害烏克蘭在拉丁美洲的形象,並介入當地政治。公開報導列出的案例分布在阿根廷、玻利維亞與厄瓜多,包括一段偽造的音訊,內容是烏克蘭領事辱罵厄瓜多公民;還有一則假消息,聲稱厄瓜多的空殼公司正在為烏克蘭招募作戰人員。這些內容引來拉丁美洲主流媒體的事實查核與官方駁斥。

操作者還利用ChatGPT處理行動內部的事務,例如工資標準與招募決定。OpenAI的評價是:

「過去兩年半裡,我們拆穿的門面身分行動中最複雜的一次。」

伊朗:七名假記者,近百篇署名稿

伊朗這起行動被稱為Bogus Bylines。行動維持著7個「記者」人設,向全球各地關注國際事務的中小型網路媒體投遞長文,題材主要是美伊衝突,同時大量產出社群媒體留言。

「我們發現,以該行動署名發表或轉載的文章將近100篇,分布在全球約十幾家網路媒體。」

文章投放這一項被評為第4級,社群媒體上的影響力只到第2級,自然互動非常少。

從2024年那份報告看過來

OpenAI第一次公開這類報告是在2024年5月,當時點名了與俄羅斯、中國、伊朗及以色列相關的五起行動,沒有一起的擴散等級超過第2級。兩年多後,評級來到第5級,改變的是手法:這兩起行動都把AI與雇人、投稿、設立機構等傳統手段綁在一起用,AI負責大量寫稿與維持人設,真人負責讓門面看起來可信。

封鎖帳號只能切斷ChatGPT這一個環節。本文依據的公開報導裡,沒有給出被封帳號的數量,也沒有提到SRC在當地是否仍在活動,那些不知情的員工與刊登過稿件的媒體要如何處理,OpenAI也沒有說明。

參考來源:OpenAI威脅情報報告、CyberScoop、CocoLoop、France 24;CyberScoop與France 24交叉核對了兩起行動的擴散等級與文章數量。