Wenn KI in die Biologie rückt, geht es nicht nur um eine einzelne gefährliche Antwort. Modelle, Agenten, Datenbanken und Laborwerkzeuge können zu einer Arbeitskette aus Recherche, Design und Experimentplanung werden.
Am 16. Juli stellten Google DeepMind und Isomorphic Labs ihren gemeinsamen Ansatz für Bioresilienz vor. Das Programm soll Modellmissbrauch verhindern, neue Ausbrüche früher erkennen und Impfstoffe oder andere medizinische Gegenmaßnahmen schneller entwerfen.
“Everyone agrees we can't get this wrong,” sagte Helen King, Vice President of Responsibility bei Google DeepMind, Axios.
Die Kontrolle beginnt vor der Veröffentlichung
DeepMind verweist auf mehr als 15 Partnerschaften in den vergangenen 12 Monaten mit Behörden, Biosicherheitsorganisationen und Forschungsteams. In den nächsten 6 bis 12 Monaten sollen Bedrohungsaufklärung, Bewertungen von KI-Agenten und Jailbreak-Abwehr im Mittelpunkt stehen.
Der Sicherheitsprozess besteht aus Threat Modeling, Evaluierungen, Gegenmaßnahmen und Monitoring. Entscheidend ist nicht nur, ob eine Antwort riskant klingt, sondern ob Systeme wie Gemini reale Hürden für schlechte Akteure senken.
Biosicherheit verschiebt sich von Antwortmoderation zur Kontrolle ganzer Aufgabenketten.
SynthID soll auf DNA übertragen werden
Der auffälligste technische Punkt ist die Anpassung von SynthID-Wasserzeichen an biologische Daten. DNA-Syntheseanbieter prüfen Bestellungen meist anhand von Listen gefährlicher Pathogene und Toxine. KI kann jedoch Sequenzen erzeugen, die anders aussehen und trotzdem ähnliche Funktionen haben.
DeepMind will Partnern helfen, KI-generierte Sequenzen zu erkennen. Später soll KI auch vorhersagen, ob eine Sequenz toxisch oder pathogen sein könnte, selbst wenn sie keinem bekannten Erreger ähnelt.
Erkennung braucht günstigere Sequenzierung
Für die Erkennung setzt DeepMind auf metagenomische Sequenzierung aus Abwasser, Luft oder Patientenproben. Sie liest Mikroorganismen breit aus und kann neue oder seltene Ausbrüche früher sichtbar machen.
Kosten und Analyse bleiben die Engpässe. DeepMind nennt AlphaEvolve in einer Zusammenarbeit mit Pacific Biosciences zur Verbesserung der Sequenzierungsgenauigkeit und prüft AlphaGenome sowie Proteinfunktions-Annotation für die Charakterisierung von Pathogenen.
Die Zusage von Google.org über 7 Millionen US-Dollar an Health for Human Potential unterstützt Forschung zu Infektionskrankheiten und Pandemievorbereitung in Asien.
Isomorphic übernimmt die Reaktion
Für die Reaktion will DeepMind vertrauenswürdigen Forschern gezielten Zugang zu Systemen wie Co-Scientist geben. Isomorphic Labs hat eine Einheit aufgebaut, die den Drug Design Engine im Notfall für medizinische Gegenmaßnahmen einsetzen kann.
Als Knoten nennt das Unternehmen unter anderem Lawrence Livermore National Lab, UK AI Security Institute, CEPI und Francis Crick Institute. Entscheidend wird nun, wer als vertrauenswürdiger Partner gilt, ob DNA-Wasserzeichen in die Bestellprüfung kommen und ob öffentliche Gesundheitssysteme nahezu Echtzeit-Sequenzierung bezahlen können.
Quellen: Google DeepMind / Isomorphic Labs Bioresilienz-Materialien, Axios, Google DeepMind Singapur National AI Partnership, Philanthropy Asia Alliance, CocoLoop; geprüft wurden mehr als 15 Partnerschaften, drei Programmsäulen, SynthID-Biowasserzeichen, AlphaFold / AlphaEvolve / IsoDDE-Anwendungen und die 7-Millionen-US-Dollar-Finanzierung für Health for Human Potential.