O senador independente americano Bernie Sanders anunciou que vai apresentar o "Artificial Superintelligence Ban Act" (Lei de Proibição da Superinteligência Artificial). Quase ao mesmo tempo, o deputado trabalhista britânico Alex Sobel apresentou na Câmara dos Comuns um projeto de lei com objetivo semelhante. A Time reuniu os dois casos na mesma reportagem, publicada em 8 de setembro.
O projeto de Sanders tem dois pontos centrais: proibir o desenvolvimento de sistemas de IA mais inteligentes que os humanos; e suspender outras pesquisas avançadas de IA até que novas regras de segurança sejam estabelecidas. O projeto também exige que o governo americano promova um tratado global para banir o desenvolvimento de superinteligência em todo o mundo. A data prevista para apresentação é descrita como "nas próximas semanas".
O limiar do projeto britânico está em outro lugar
Sobel não define "mais inteligente que os humanos"; em vez disso, define superinteligência como um sistema capaz de retirar poder dos Estados, e então autoriza o governo a monitorar e restringir sistemas que possam se tornar seus "precursores". Segundo ele, este é o primeiro projeto de lei entre os parlamentos do G7 a buscar proibir a superinteligência.
O ponto em comum entre os dois projetos é que ambos exigem que o respectivo governo lidere a negociação de um tratado global. A diferença está na abordagem: o projeto americano proíbe diretamente a capacidade, enquanto o britânico proíbe o caminho até essa capacidade, deixando o julgamento a cargo do Executivo.
A regra dos dez minutos
Sobel está usando o caminho do "Ten Minute Rule Bill" - um mecanismo da Câmara dos Comuns em que o parlamentar tem dez minutos para apresentar a moção antes de passar para a primeira leitura. A grande maioria dos projetos apresentados por essa via não avança além disso, raramente recebendo tempo de debate posterior; segundo a reportagem, muito poucos ultrapassam a primeira leitura.
A situação de Sanders é parecida. Como senador independente, seu projeto precisaria de apoio bipartidário para completar o trâmite no Senado, mas a cláusula de suspensão de pesquisas avançadas de IA não se alinha com a política industrial atual de nenhum dos dois partidos. A avaliação da Time é que ambos os projetos dificilmente se tornarão lei.
Então por que apresentá-los mesmo assim
A razão apontada na reportagem é demarcar posição no debate. Stuart Russell, da Universidade da Califórnia em Berkeley, afirma no texto que há uma probabilidade considerável de a IA causar um "desastre em escala de Chernobyl", como sabotar de forma coordenada sistemas financeiros, de comunicação ou de rede elétrica, ou fazer com que os humanos percam o controle de forma irreversível. Daniel Kokotajlo, ex-funcionário da OpenAI, resume de forma mais direta: a situação em São Francisco é realmente insana.
Colocados no conjunto de leis deste ano, a posição dos dois projetos fica clara. Neste ano, os estados americanos apresentaram mais de 1.500 projetos de lei relacionados a IA, todos voltados a cenários concretos: chatbots de companhia para menores, deepfakes, precificação por algoritmo, triagem de contratação. No nível federal, um projeto de 269 páginas busca congelar por três anos o poder legislativo dos estados sobre o tema - na direção exatamente oposta. A Lei de IA da União Europeia já está em vigor, com as cláusulas de alto risco adiadas em 16 meses.
Essas três categorias de legislação lidam com sistemas que já estão em operação, têm um objeto de regulação claro e espaço para negociação item por item - quanto multar, o que conta como alto risco, quanto tempo de transição conceder, tudo pode ser discutido. Já os projetos de Sanders e Sobel lidam com sistemas que ainda não existem, exigindo que a porta seja fechada antes que eles surjam. Os primeiros podem ser desmontados cláusula por cláusula pela indústria para serem alterados; os últimos só podem ser aceitos ou rejeitados por completo. A diferença na dificuldade de aprovação não está na redação, mas em haver ou não um objeto de regulação concreto.
O projeto britânico ainda tem um problema prático adicional. Quem vai determinar os sistemas "precursores" e com que critérios não consta nas descrições públicas. Na prática, isso equivaleria a exigir que o governo faça previsões sobre a capacidade de modelos que sequer terminaram o treinamento, enquanto os sistemas de avaliação existentes ainda debatem os limites de capacidade até dos modelos já lançados.
Quanto a como medir o limiar de "mais inteligente que os humanos", as descrições públicas de ambos os projetos também não esclarecem. Os textos das leis ainda não foram divulgados; o único material disponível para conferência é o relato da reportagem.
Fontes: reportagem completa da Time, CocoLoop, explicação do procedimento do Ten Minute Rule Bill na Câmara dos Comuns do Reino Unido; o conteúdo das cláusulas, as citações e as avaliações sobre as chances de aprovação seguem o texto original da Time, e os textos de ambos os projetos ainda não foram divulgados.