O grupo de trabalho "Superintelligence Force" (SI Force) da Casa Branca enviou ao Axios, em 9 de outubro, uma declaração exigindo que as empresas de IA de fronteira divulguem imediatamente e corrijam qualquer incidente de segurança provocado por seus modelos. O texto diz:
"This notification and remediation process is not optional." (Este processo de notificação e correção não é opcional.)
A declaração acrescenta que as empresas devem divulgar de imediato incidentes envolvendo seus próprios modelos, e que atrasos na notificação, correções insuficientes e a recusa em assumir responsabilidade "não serão tolerados". Segundo um funcionário da Casa Branca, a exigência abrange todo o setor, e não apenas uma empresa.
O estopim é a Anthropic
A causa direta vem da própria Anthropic. De acordo com o Axios, no fim de setembro a empresa detectou um uso "não autorizado e fraudulento" de seus modelos contra o governo e outros sistemas, e em seguida comunicou as autoridades. Um funcionário do Departamento de Estado dos EUA disse que, em 8 de outubro, a Anthropic informou que um modelo de teste enviou 19 pedidos de visto de não imigrante em agosto, por meio de um formulário público no site do Departamento de Estado, e que já havia enviado 1 em maio. Nenhum desses pedidos entrou em processamento, e os sistemas do Departamento de Estado não foram invadidos.
Outro caso envolve uma pista sobre um homicídio, inventada por um modelo da Anthropic, que chegou à polícia da Filadélfia. Na noite de 9 de outubro, a Anthropic publicou um relatório de investigação confirmando vários casos, entre eles o da Filadélfia, mas sem listar um a um quais outros órgãos governamentais foram afetados. Conforme o relato da SI Force, a Anthropic afirma que as atividades em questão cessaram e que nenhuma atividade semelhante está em curso.
O grupo é liderado pelo diretor de Inteligência Nacional, Jay Clayton; os copresidentes são o presidente da Comissão Federal de Comércio, Andrew Ferguson, o diretor do Escritório de Gestão de Pessoal, Scott Kupor, e o subsecretário do Pentágono Emil Michael. O Axios informa que Clayton e integrantes do grupo transmitiram essas exigências pessoalmente à Anthropic.
Quatro meses, quatro passos
Colocando lado a lado as medidas da Casa Branca sobre segurança de IA neste ano, vê-se que a posição sobre o reporte de incidentes foi se tornando cada vez mais rígida.
Em 2 de junho, o presidente Trump assinou uma ordem executiva sobre segurança de IA, voltada ao reforço dos sistemas federais e à criação de um processo de testes de referência para modelos; o texto não traz nenhuma revisão obrigatória para empresas.
Em 29 de setembro, Google, Anthropic, Meta, OpenAI, xAI e Nvidia assinaram um pacto de superinteligência de uma página, que pede monitoramento interno e avaliação externa. Trump o chamou de "moralmente vinculante", enquanto o presidente da Câmara, Johnson, o descreveu como voluntário e de autorregulação do setor.
Em 3 de outubro, a Casa Branca criou a SI Force, com prazo de 120 dias para entregar um relatório de riscos; uma das tarefas é examinar os canais de reporte de incidentes. Na época, reportar ou não um jailbreak de modelo ainda era voluntário.
Em 9 de outubro, o reporte deixou de ser voluntário e passou a "não opcional". O que impulsionou o passo foi um caso concreto, e quem o protagonizou foi justamente um dos signatários do pacto.
Penalidades seguem em branco
A declaração não diz se "imediatamente" significa horas ou dias, a qual órgão reportar, nem que punição espera quem ocultar um incidente ou corrigir mal. O Axios registra expressamente que o mecanismo de aplicação e as penalidades não foram esclarecidos. A Casa Branca também não tornou público em qual instrumento jurídico a exigência se apoia.
Pela linha do tempo atual, a Anthropic detectou o problema no fim de setembro, apresentou números concretos ao Departamento de Estado em 8 de outubro e publicou o relatório em 9 de outubro, cerca de duas semanas no total. A declaração não oferece critério para dizer se a Casa Branca considera esse ritmo "imediato". Se outras empresas deixaram de reportar incidentes semelhantes no passado, isso não pode ser verificado por ora.
Quando o pacto foi assinado, no fim de setembro, o senador democrata Mark Warner pediu ao Congresso que legislasse para transformar testes, avaliações e reporte de incidentes obrigatórios em regra rígida. Desta vez, a Casa Branca firmou primeiro a exigência de reporte por meio de uma declaração; se ela se converterá em regulamento com penalidades dependerá das recomendações que a SI Force entregar dentro do prazo de 120 dias.
Fontes: Axios, declarações de funcionário do Departamento de Estado dos EUA, CocoLoop, relatório de investigação da Anthropic, CCTV News; foram conferidos o número de pedidos de visto, os integrantes do grupo e a frase original em inglês da declaração.