OpenAIは10月8日、ChatGPTを悪用した隠密な影響力操作2件を停止したとする脅威インテリジェンスレポートを公表した。1件はロシア発でラテンアメリカを標的とし、もう1件はイラン発で世界各地の中小規模のオンラインメディアを標的としていた。いずれも手口は同じで、信頼できそうな「表の顔」を作り、それを通じてコンテンツを拡散していた。
OpenAIはロシアの作戦を、影響力操作の拡散度を示す「Breakout Scale」でカテゴリー5と評価した。これは同社がこの種のレポートを公開し始めて以来、最も高い評価だ。スケールは1から6まであり、数字が大きいほどコンテンツが複数のプラットフォームや層を越えて拡散し、主流の言論に近づいていることを意味する。
ロシア：実在の人間が運営する「シンクタンク」
OpenAIはこの作戦をDark Clarkと名付けた。実行者たちはMia Clarkという架空のAIジャーナリストを作り出し、「ソーシャル・リサーチ・センター」（Social Research Center、SRC）の責任者として登場させた。この組織はラテンアメリカに実在する職員を抱えており、OpenAIが把握した証拠によればその職員たちは自分がロシアのグループのために働いていることを知らなかった。
作戦のコンテンツは、ラテンアメリカにおけるウクライナのイメージを損なうことと、現地の政治に介入することに集中していた。公開されている報道によれば、事例はアルゼンチン、ボリビア、エクアドルに及び、ウクライナ領事がエクアドル国民を侮辱する内容の偽音声や、エクアドルのペーパーカンパニーがウクライナのために戦闘員を募集しているという偽情報が含まれていた。これらはラテンアメリカの主要メディアによるファクトチェックと当局による否定を招いた。
実行者はまた、賃金の基準や採用の判断といった作戦内部の事務処理にもChatGPTを使っていた。OpenAIはこう評している。
「過去2年半で摘発した表の顔を運営する試みの中で、最も複雑なものだった」
イラン：7人の偽記者、約100本の署名記事
イランの作戦はBogus Bylinesと呼ばれる。7人の「記者」という人物像を維持し、主に米イラン対立を題材にした長文記事を、国際情勢を扱う世界各地の中小オンラインメディアに持ち込む一方で、ソーシャルメディア向けのコメントも大量に生成していた。
「この作戦の署名で発表または転載された記事を、世界各地の十数のオンラインメディアにわたって約100本確認した」
記事の掲載についてはカテゴリー4と評価された一方、ソーシャルメディア上の影響はカテゴリー2にとどまり、自然な反応はごくわずかだった。
2024年のレポートから見えてくること
OpenAIが初めてこの種のレポートを公表したのは2024年5月で、ロシア、中国、イラン、イスラエルに関連する5件の作戦を指摘したが、いずれも拡散度はカテゴリー2を超えなかった。2年余りを経て評価はカテゴリー5に達した。変わったのは手口で、今回の2件はいずれもAIと、人材の雇用・記事の持ち込み・組織の設立といった従来型の手法を組み合わせていた。AIが大量の文章作成と人物像の維持を担い、実在の人間が表の顔を信頼できるものに見せていた。
アカウント停止で切り離せるのはChatGPTという一つの経路だけだ。この記事が参照した公開報道には、停止されたアカウントの数は示されておらず、SRCが現地で今も活動しているか、事情を知らなかった職員や記事を掲載したメディアがどう扱われるのかについても、OpenAIは説明していない。
参考資料：OpenAI脅威インテリジェンスレポート、CyberScoop、CocoLoop、France 24。CyberScoopとFrance 24は両作戦の拡散度評価と記事数を相互に確認している。