Quando a IA entra na biologia, o risco não está apenas em uma resposta perigosa. Modelos, agentes, bancos de dados e ferramentas de laboratório podem formar uma cadeia de busca, desenho e planejamento experimental.
Em 16 de julho, Google DeepMind e Isomorphic Labs publicaram uma abordagem conjunta de bioresiliência. O programa mira três tarefas: impedir abuso de modelos, detectar novos surtos mais cedo e acelerar vacinas ou outras contramedidas médicas.
“Everyone agrees we can't get this wrong,” disse Helen King, vice-presidente de responsabilidade da Google DeepMind, à Axios.
A proteção começa antes do lançamento
A DeepMind afirma ter avançado mais de 15 parcerias nos últimos 12 meses com governos, organizações de biossegurança e grupos de pesquisa. Nos próximos 6 a 12 meses, o foco será inteligência de ameaças, avaliações de agentes de IA e mitigação de jailbreaks.
O processo de segurança tem quatro etapas: modelagem de ameaças, avaliações, mitigação e monitoramento. A pergunta é se sistemas como Gemini ajudam alguém a superar gargalos reais, não apenas se uma resposta parece arriscada.
A biossegurança de IA passa da moderação de respostas para o controle da cadeia de tarefas.
SynthID pode chegar ao DNA
O ponto técnico mais concreto é adaptar a marca d'água SynthID para dados biológicos. Empresas de síntese de DNA filtram pedidos com listas de patógenos e toxinas perigosas. A IA pode criar sequências diferentes em aparência, mas parecidas em função.
A DeepMind quer ajudar parceiros a identificar sequências geradas por IA e, depois, prever se uma sequência pode ser tóxica ou patogênica mesmo sem se parecer com ameaças conhecidas.
Detecção depende de sequenciamento mais barato
Na detecção, a aposta é em sequenciamento metagenômico de esgoto, ar ou amostras de pacientes. Ele lê os microrganismos da amostra de forma ampla e pode revelar surtos novos ou raros antes.
Custo e análise são o gargalo. A DeepMind diz que AlphaEvolve já foi usado com a Pacific Biosciences para melhorar a precisão do sequenciamento, e que AlphaGenome e anotação de função proteica podem ajudar a caracterizar patógenos.
A contribuição de US$ 7 milhões da Google.org para a coalizão Health for Human Potential apoia pesquisa de doenças infecciosas e preparação para pandemias na Ásia.
Isomorphic fica no lado da resposta
Para resposta, a DeepMind dará acesso direcionado a pesquisadores confiáveis a sistemas como Co-Scientist. A Isomorphic Labs criou uma unidade para acionar seu Drug Design Engine em contramedidas médicas durante surtos naturais ou riscos ligados ao mau uso de IA avançada.
Entre os parceiros citados estão Lawrence Livermore National Lab, UK AI Security Institute, CEPI e Francis Crick Institute. A prova agora será definir parceiros confiáveis, levar marca d'água de DNA à triagem de pedidos e tornar o monitoramento quase em tempo real viável para saúde pública.
Fontes: materiais de bioresiliência da Google DeepMind / Isomorphic Labs, Axios, parceria nacional de IA da Google DeepMind em Singapura, Philanthropy Asia Alliance, CocoLoop; verificados mais de 15 parceiros, três pilares, marca d'água biológica SynthID, usos de AlphaFold / AlphaEvolve / IsoDDE e financiamento de US$ 7 milhões ao Health for Human Potential.