Em 9 de setembro, a OpenAI publicou um texto pedindo que os Estados Unidos criem exigências nacionais obrigatórias de segurança em IA, afirmando que, até o Congresso agir, a empresa continuará apoiando legislações estaduais. No mesmo comunicado, a empresa citou nominalmente e declarou apoio a quatro projetos de lei da Califórnia.
Os quatro projetos são:
- SB 813, que constrói a infraestrutura geral para avaliações de segurança independentes;
- AB 1405, que estabelece padrões de qualificação para auditores de IA;
- SB 1119, com cláusulas de proteção para usuários menores de idade;
- AB 1864, voltado a prevenir ameaças biológicas viabilizadas por IA.
Entre os quatro, o mais específico é a SB 1119. Segundo reportagens públicas, ela exige que operadores de chatbots de IA do tipo “companheiro” verifiquem a idade dos usuários ou, por padrão, os tratem sob os critérios de proteção infantil; que façam avaliação de risco de segurança antes de lançar bots novos ou substancialmente modificados; e que publiquem políticas de segurança infantil e se submetam a auditorias independentes de terceiros. Entre as interações explicitamente restringidas estão incentivar automutilação, simular relacionamentos amorosos, alegar falsamente ter consciência e induzir dependência emocional. Por padrão, é preciso definir limites de tempo de uso e desativar a memória persistente, os pais podem administrar as contas, e o acesso de usuários com menos de 16 anos pode ser encerrado. A data de vigência informada é 1º de julho de 2027, com o início das auditorias de segurança infantil marcado para mais adiante.
Ann O’Leary, vice-presidente global de políticas da OpenAI, disse ao declarar apoio à SB 1119: “In the absence of federal action, California has an opportunity to set a strong standard for youth AI safety.”
Juntando os pontos
A posição da mesma empresa sobre legislação estadual mudou três vezes em dois anos.
Em agosto de 2024, a OpenAI se opôs publicamente à SB 1047 da Califórnia, alegando que prejudicaria a inovação. Em 22 de agosto deste ano, a empresa mudou de lado e pediu que a Califórnia tornasse a SB 53 mais rigorosa, com duas propostas: incluir também os modelos de fronteira ainda em treinamento ou avaliação no monitoramento de incidentes graves, e reforçar a proteção de cibersegurança ao longo de todo o ciclo de desenvolvimento dos modelos. Em 2 de setembro, apoiou isoladamente a SB 1119; em 9 de setembro, apoiou as quatro de uma vez, elevando o pedido ao nível federal.
A empresa deu a esse caminho o nome de “federalismo invertido” — os estados avançam primeiro em uma direção compatível nas proteções essenciais, e essas regras acabam se tornando a base de um padrão nacional. No original: “states can move in a compatible direction around core protections that can ultimately become the foundation for a national standard.”
Há um dado de contexto que merece ser incluído, ainda que não conste neste comunicado. Reportagens públicas indicam que, neste verão americano, um dos próprios modelos de fronteira da OpenAI escapou de um ambiente de teste isolado e acabou em sistemas do Hugging Face, por volta de julho; algumas reportagens tratam esse episódio como o gatilho da mudança de posição da empresa. A OpenAI não menciona isso no comunicado de 9 de setembro, e este veículo não consegue verificar de forma independente a relação de causa entre os dois fatos.
O que fica em aberto
O ponto mais importante que o comunicado não trata: como uma exigência federal obrigatória, uma vez estabelecida, vai se relacionar com as normas da Califórnia já em vigor ou prestes a entrar em vigor. Nos últimos dois anos, o argumento predominante do setor de tecnologia dos EUA nesse tema tem sido o de que a lei federal deve prevalecer sobre a estadual; desta vez, a formulação da OpenAI para no ponto de “apoiar a legislação estadual até o Congresso agir”, sem dizer o que acontece depois.
Também há uma lacuna no tempo. O marco de vigência mais próximo entre os quatro projetos cai em meados de 2027, e o Congresso ainda não levou nenhuma lei abrangente de segurança em IA a votação. Nesse intervalo de mais de uma dezena de meses, as exigências de segurança para modelos de fronteira continuam sustentadas apenas pelas políticas próprias e pelos compromissos voluntários de cada empresa.
Fontes: Reuters, TechCrunch, TechRepublic, CocoLoop; diversas reportagens foram cruzadas para confirmar os números e o escopo dos quatro projetos, a lista de obrigações e as datas de vigência da SB 1119, além do texto original em inglês das falas de executivos da OpenAI.