No dia 8 de abril, a OpenAI publicou um Plano de Segurança Infantil (Child Safety Blueprint), com o objetivo de fornecer um quadro de resposta sistemática para a indústria de IA no tratamento de conteúdo de exploração sexual infantil.
O contexto deste problema é mais grave do que muitos imaginam.
Os dados falam
De acordo com estatísticas da Internet Watch Foundation, apenas no primeiro semestre de 2025, foram descobertos mais de 8.000 casos de conteúdo de abuso sexual infantil gerado por IA (CSAM) – um aumento de 14% em relação ao mesmo período do ano anterior.
Há ainda um contexto difícil de ignorar: recentemente, menores de idade cometeram suicídio após interações prolongadas com chatbots de IA. Esses eventos geraram forte reação de pais, educadores e órgãos reguladores, e também impulsionaram a atenção legislativa.
Diante dessa pressão, a OpenAI optou por agir proativamente, em vez de esperar ser regulamentada.
O que o plano diz
O quadro proposto pela OpenAI gira em torno de três direções:
1. Âmbito legal
As leis atuais muitas vezes não cobrem adequadamente o conteúdo de abuso sexual infantil gerado ou modificado por IA. O plano pede que os legisladores atualizem as leis relevantes, garantindo que esse tipo de conteúdo, seja filmado realisticamente ou sintetizado por IA, esteja sujeito às mesmas sanções legais.
2. Colaboração do setor
Após detectar um problema, como as plataformas devem denunciá-lo? Para quem? Como as plataformas podem compartilhar informações para apoiar a aplicação da lei? O plano exige a melhoria desse mecanismo de coordenação. Atualmente, os procedimentos de denúncia não são uniformes e as informações não fluem entre as plataformas, resultando em baixa eficiência na aplicação da lei.
3. Proteção técnica
Incorporar mecanismos de segurança desde a fase de design dos sistemas de IA, em vez de revisar o conteúdo depois de gerado. A OpenAI chama isso de safety by design – interceptar antecipadamente nas camadas de modelo e aplicação é muito mais eficiente do que aplicar correções posteriores.
Quem apoia isso
Este plano não foi escrito apenas pela OpenAI.
A CEO do Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) dos EUA, Michelle DeLaune, foi direta: A IA generativa está acelerando os crimes de exploração sexual infantil de forma alarmante.
Além disso, o grupo de trabalho de IA da Aliança dos Procuradores-Gerais (Attorney General Alliance) – co-liderado pelos procuradores-gerais da Carolina do Norte e Utah – e a organização de proteção infantil Thorn participaram da elaboração deste documento.
Com esse apoio, o plano parece mais um fornecimento de munição para a legislação e a regulamentação do setor do que apenas um texto de relações públicas da OpenAI.
Onde está o problema
É justo dizer que a iniciativa da OpenAI de publicar este documento é significativa – pelo menos esclarece o problema e oferece um quadro de referência para os órgãos reguladores.
Mas as preocupações dos críticos não são infundadas: Uma empresa escrever as regras de regulamentação para sua própria indústria representa um claro conflito de interesses. Quais cláusulas do plano são restrições rigorosas, quais são apenas recomendações e qual é o mecanismo de execução – tudo isso precisa ser monitorado por órgãos reguladores externos.
Além disso, o UNICEF já está pedindo que o conteúdo de abuso infantil gerado por IA seja classificado como crime penal. A UE, o Reino Unido e a Austrália estão investigando as falhas de moderação de conteúdo das plataformas de IA. A OpenAI publica o plano neste momento, e os órgãos reguladores não podem se basear apenas nas declarações; a execução subsequente é o que realmente importa.
A propósito
No mesmo dia, a OpenAI também anunciou o Programa de Bolsas de Pesquisa em Segurança da OpenAI (OpenAI Safety Fellowship), recrutando pesquisadores para estudar especificamente os riscos de segurança da IA. Colocar essas duas iniciativas lado a lado parece enviar um sinal: não se trata de um comunicado de imprensa, mas de um investimento contínuo.
Acreditar ou não, depende das ações futuras.
Fonte de referência: OpenAI releases a new safety blueprint to address the rise in child sexual exploitation (TechCrunch); CocoLoop; OpenAI Publishes Child Safety Blueprint to Address AI-Enabled Exploitation (Decrypt)