Cuando la IA entra en biología, el riesgo no está solo en una respuesta peligrosa. Modelos, agentes, bases de datos y herramientas de laboratorio pueden conectarse en una cadena de búsqueda, diseño y planificación experimental.
El 16 de julio, Google DeepMind e Isomorphic Labs publicaron su enfoque conjunto de bioresiliencia. El programa tiene tres tareas: impedir el mal uso de modelos, detectar brotes nuevos antes y acelerar vacunas u otras contramedidas médicas.
“Everyone agrees we can't get this wrong,” dijo a Axios Helen King, vicepresidenta de responsabilidad de Google DeepMind.
La defensa empieza antes del lanzamiento
DeepMind afirma que en los últimos 12 meses avanzó más de 15 alianzas con gobiernos, organizaciones de bioseguridad y grupos de investigación. En los próximos 6 a 12 meses priorizará inteligencia de amenazas, evaluación de agentes de IA y mitigación de jailbreaks.
El proceso de seguridad tiene cuatro pasos: modelado de amenazas, evaluaciones, mitigaciones y monitoreo. La pregunta no es solo si una respuesta parece peligrosa, sino si sistemas como Gemini ayudan a superar cuellos de botella reales.
La bioseguridad de IA pasa de moderar respuestas a controlar cadenas completas de tareas.
SynthID podría llegar al ADN
La idea técnica más clara es adaptar la marca de agua SynthID a datos biológicos. Las compañías de síntesis de ADN suelen filtrar pedidos con listas de patógenos y toxinas. La IA puede diseñar secuencias muy distintas con funciones parecidas, debilitando ese método.
DeepMind quiere ayudar a socios a identificar secuencias generadas por IA y, más adelante, predecir si una secuencia puede ser tóxica o patógena aunque no se parezca a una amenaza conocida.
La detección depende de secuenciar más barato
Para detectar brotes, DeepMind apunta a secuenciación metagenómica de aguas residuales, aire o muestras de pacientes. En lugar de buscar solo patógenos conocidos, lee ampliamente los microorganismos de una muestra.
El coste y el análisis son la barrera. DeepMind dice que AlphaEvolve ya se usó con Pacific Biosciences para mejorar la precisión de secuenciación, y explora AlphaGenome y anotación funcional de proteínas para caracterizar patógenos.
La contribución de 7 millones de dólares de Google.org a Health for Human Potential apoya investigación de enfermedades infecciosas y preparación pandémica en Asia.
Isomorphic cubre la respuesta
En respuesta, DeepMind ofrecerá acceso dirigido a investigadores de confianza a sistemas como Co-Scientist. Isomorphic Labs creó una unidad para desplegar su Drug Design Engine en contramedidas médicas durante brotes naturales o riesgos ligados al mal uso de IA avanzada.
El documento menciona a Lawrence Livermore National Lab, UK AI Security Institute, CEPI y Francis Crick Institute. Lo que queda por probar es quién entra como socio confiable, si la marca de agua de ADN llega a la revisión de pedidos y si la salud pública puede pagar vigilancia casi en tiempo real.
Fuentes: materiales de bioresiliencia de Google DeepMind / Isomorphic Labs, Axios, alianza nacional de IA de Google DeepMind en Singapur, Philanthropy Asia Alliance, CocoLoop; se verificaron más de 15 alianzas, tres pilares, marca de agua biológica SynthID, usos de AlphaFold / AlphaEvolve / IsoDDE y la financiación de 7 millones de dólares para Health for Human Potential.