Ketika AI masuk ke biologi, risikonya bukan hanya satu jawaban berbahaya. Model, agen, basis data dan alat laboratorium bisa terhubung menjadi alur kerja untuk mencari, merancang dan merencanakan eksperimen.
Pada 16 Juli, Google DeepMind dan Isomorphic Labs menerbitkan pendekatan bersama untuk bioresilience. Tugasnya tiga: mencegah penyalahgunaan model, mendeteksi wabah baru lebih cepat, dan mempercepat desain vaksin atau penanggulangan medis.
“Everyone agrees we can't get this wrong,” kata Helen King, wakil presiden responsibility Google DeepMind, kepada Axios.
Pengamanan dimulai sebelum rilis
DeepMind mengatakan telah menjalankan lebih dari 15 kemitraan dalam 12 bulan terakhir dengan pemerintah, organisasi biosekuriti dan kelompok riset. Dalam 6 hingga 12 bulan ke depan, fokusnya adalah intelijen ancaman, evaluasi agen AI dan mitigasi jailbreak.
Proses keselamatannya terdiri dari pemodelan ancaman, evaluasi, mitigasi dan pemantauan. Yang dinilai bukan hanya apakah sebuah jawaban terlihat berbahaya, tetapi apakah sistem seperti Gemini membantu pelaku melewati hambatan dunia nyata.
Biosekuriti AI bergerak dari moderasi jawaban menuju kontrol seluruh rantai tugas.
SynthID dapat masuk ke DNA
Gagasan teknis yang paling nyata adalah menyesuaikan watermark SynthID untuk data biologis. Perusahaan sintesis DNA biasanya menyaring pesanan dengan daftar patogen dan toksin berbahaya. AI dapat membuat sekuens yang berbeda bentuknya tetapi mirip fungsinya, sehingga penyaringan berbasis daftar menjadi rapuh.
DeepMind ingin membantu mitra mengenali sekuens buatan AI dan, pada tahap berikutnya, memprediksi apakah suatu sekuens berpotensi toksik atau patogenik meski tidak mirip patogen yang dikenal.
Deteksi bergantung pada sequencing murah
Untuk deteksi, DeepMind menyoroti metagenomic sequencing dari air limbah, udara atau sampel pasien. Metode ini membaca mikroorganisme dalam sampel secara luas, bukan hanya mencari beberapa patogen yang sudah dikenal.
Biaya dan analisis masih menjadi hambatan. DeepMind menyebut AlphaEvolve sudah digunakan bersama Pacific Biosciences untuk meningkatkan akurasi sequencing, sementara AlphaGenome dan anotasi fungsi protein dapat membantu karakterisasi patogen.
Kontribusi USD 7 juta Google.org untuk koalisi Health for Human Potential mendukung riset penyakit menular dan kesiapsiagaan pandemi di Asia.
Isomorphic memegang sisi respons
Untuk respons, DeepMind akan memberi akses terarah kepada peneliti tepercaya ke sistem seperti Co-Scientist. Isomorphic Labs membuat unit khusus untuk mengerahkan Drug Design Engine dalam desain penanggulangan medis ketika terjadi wabah alami atau risiko dari penyalahgunaan AI maju.
Dokumen resmi menyebut Lawrence Livermore National Lab, UK AI Security Institute, CEPI dan Francis Crick Institute sebagai simpul kerja sama. Uji berikutnya adalah definisi mitra tepercaya, penerapan watermark DNA dalam penyaringan pesanan, dan kemampuan sistem kesehatan publik membiayai pemantauan nyaris real-time.
Sumber: materi bioresilience Google DeepMind / Isomorphic Labs, Axios, kemitraan AI nasional Google DeepMind Singapura, Philanthropy Asia Alliance, CocoLoop; memeriksa 15 lebih kemitraan, tiga pilar program, watermark biologis SynthID, penggunaan AlphaFold / AlphaEvolve / IsoDDE, dan angka pendanaan USD 7 juta untuk Health for Human Potential.