A OpenAI publicou em 8 de outubro um relatório sobre ameaças, informando ter banido duas operações de influência encoberta que usavam o ChatGPT: uma originada na Rússia, voltada à América Latina, e outra no Irã, voltada a veículos de mídia online pequenos e médios em todo o mundo. As duas operações recorreram ao mesmo método: construir primeiro uma "fachada" com aparência confiável e, depois, usá-la para distribuir conteúdo.
A OpenAI classificou a operação russa como nível 5 na Breakout Scale, a escala de operações de influência — a nota mais alta já atribuída desde que a empresa começou a publicar esse tipo de relatório. A escala tem seis níveis; quanto mais alto, mais o conteúdo extrapola plataformas e públicos, aproximando-se do debate público dominante.
Rússia: um "centro de pesquisa" operado por pessoas reais
A OpenAI chamou a operação de Dark Clark. Os operadores inventaram uma jornalista de IA chamada Mia Clark, apresentada como responsável por um "Social Research Center" (SRC). Essa organização tem funcionários reais na América Latina, e as evidências reunidas pela OpenAI mostram que esses funcionários não sabiam que trabalhavam para um grupo russo.
O conteúdo da operação se concentrava em prejudicar a imagem da Ucrânia na América Latina e interferir na política local. Os exemplos citados em relatos públicos se distribuem entre Argentina, Bolívia e Equador, incluindo um áudio falsificado em que um cônsul ucraniano insultaria cidadãos equatorianos, e uma informação falsa segundo a qual empresas de fachada equatorianas estariam recrutando combatentes para a Ucrânia. Esse conteúdo levou grandes veículos latino-americanos a fazer checagens e autoridades a emitirem desmentidos oficiais.
Os operadores também usaram o ChatGPT para discutir assuntos internos da operação, como padrões salariais e decisões de contratação. A avaliação da OpenAI:
"the most complex attempt to run a front identity that we've disrupted over the past two and a half years."
(Tradução: a tentativa mais complexa de manter uma identidade de fachada que já desmontamos nos últimos dois anos e meio.)
Irã: sete falsos jornalistas, quase cem artigos assinados
A operação iraniana foi batizada de Bogus Bylines. Ela mantinha sete personas de "jornalistas", oferecendo artigos longos a veículos online pequenos e médios de todo o mundo interessados em assuntos internacionais, com foco principal no conflito entre EUA e Irã, além de gerar em massa comentários em redes sociais.
"We identified almost 100 articles published or syndicated under the operation's bylines across roughly a dozen online outlets around the world."
(Tradução: identificamos quase 100 artigos publicados ou republicados com as assinaturas da operação, distribuídos por cerca de uma dezena de veículos online em todo o mundo.)
A distribuição de artigos recebeu nota 4, enquanto o impacto nas redes sociais ficou em apenas nível 2, com pouquíssimo engajamento orgânico.
Olhando para o relatório de 2024
A primeira vez que a OpenAI publicou esse tipo de relatório foi em maio de 2024, quando citou cinco operações ligadas a Rússia, China, Irã e Israel, nenhuma delas acima do nível 2 na escala. Pouco mais de dois anos depois, a nota chegou ao nível 5 — e a mudança está no método: as duas operações atuais combinam IA com táticas tradicionais, como contratar pessoas, submeter artigos e montar organizações; a IA fica responsável por escrever em massa e manter as personas, enquanto pessoas reais dão credibilidade à fachada.
Banir contas corta apenas o elo do ChatGPT. Os relatos públicos em que esta matéria se baseia não informam o número de contas banidas, não esclarecem se o SRC ainda está ativo localmente, e a OpenAI também não explicou como serão tratados os funcionários que não sabiam da verdade nem os veículos que publicaram os textos.
Fontes: relatório de inteligência de ameaças da OpenAI, CyberScoop, CocoLoop, France 24; CyberScoop e France 24 confrontaram as notas de impacto e o número de artigos das duas operações.