Lorsque l’IA entre dans la biologie, le risque ne tient pas seulement à une réponse dangereuse. Modèles, agents, bases de données et outils de laboratoire peuvent former une chaîne de recherche, de conception et de planification expérimentale.
Le 16 juillet, Google DeepMind et Isomorphic Labs ont présenté leur approche commune de la biorésilience. Le programme vise trois tâches : empêcher l’abus des modèles, détecter plus tôt de nouvelles flambées et accélérer vaccins ou autres contre-mesures médicales.
“Everyone agrees we can't get this wrong,” a déclaré à Axios Helen King, vice-présidente responsibility de Google DeepMind.
La barrière commence avant la publication
DeepMind dit avoir avancé plus de 15 partenariats en 12 mois avec des organismes publics, des organisations de biosécurité et des équipes de recherche. Les 6 à 12 prochains mois porteront sur le renseignement de menace, l’évaluation des agents IA et les parades aux jailbreaks.
Le processus de sûreté suit quatre étapes : modélisation des menaces, évaluations, atténuations et surveillance. Il s’agit de savoir si des systèmes comme Gemini peuvent aider un acteur malveillant à franchir des obstacles réels, pas seulement si une réponse paraît risquée.
La biosécurité de l’IA passe de la modération des réponses au contrôle de chaînes de tâches.
SynthID pourrait s’appliquer à l’ADN
L’idée technique la plus nette consiste à adapter le filigrane SynthID aux données biologiques. Les entreprises de synthèse d’ADN filtrent souvent les commandes avec des listes de pathogènes et toxines. L’IA peut générer des séquences différentes mais proches par fonction.
DeepMind veut aider ses partenaires à reconnaître les séquences générées par IA et, ensuite, à prédire si une séquence peut être toxique ou pathogène même sans ressembler à une menace connue.
La détection dépend d’un séquençage moins coûteux
Pour la détection, DeepMind met en avant le séquençage métagénomique d’eaux usées, d’air ou d’échantillons de patients. Cette méthode lit largement les micro-organismes d’un échantillon au lieu de chercher seulement quelques pathogènes connus.
Le coût et l’analyse restent les freins. DeepMind indique qu’AlphaEvolve a été utilisé avec Pacific Biosciences pour améliorer la précision du séquençage, et explore AlphaGenome ainsi que l’annotation de fonction protéique pour caractériser les pathogènes.
La contribution de 7 millions de dollars de Google.org à Health for Human Potential soutient la recherche sur les maladies infectieuses et la préparation aux pandémies en Asie.
Isomorphic prend le relais de la réponse
Pour la réponse, DeepMind prévoit un accès ciblé pour des chercheurs de confiance à des systèmes comme Co-Scientist. Isomorphic Labs a créé une unité capable de déployer son Drug Design Engine pour des contre-mesures médicales lors d’épidémies naturelles ou de risques liés à l’abus d’IA avancée.
Les partenaires cités incluent Lawrence Livermore National Lab, UK AI Security Institute, CEPI et Francis Crick Institute. Les prochains tests porteront sur la définition des partenaires de confiance, l’arrivée du filigrane ADN dans le filtrage des commandes et le coût d’une surveillance presque en temps réel.
Sources : documents de biorésilience Google DeepMind / Isomorphic Labs, Axios, partenariat national IA de Google DeepMind à Singapour, Philanthropy Asia Alliance, CocoLoop ; vérification des plus de 15 partenariats, des trois piliers, du filigrane biologique SynthID, des usages d’AlphaFold / AlphaEvolve / IsoDDE et du financement de 7 millions de dollars pour Health for Human Potential.