113 artikel terverifikasi tentang Keamanan AI, produk, dan perkembangan industri. Halaman 2 dari 2
Sebuah makalah yang diterbitkan di Nature Communications mengungkapkan bahwa tim dari Universitas Stuttgart dan ELLIS Institute Alicante membuat model penalaran besar menyerang model AI lain, mencapai tingkat keberhasilan total 97,14% dalam 25.200 pengujian, hampir semuanya menembus pagar pengaman.
Universal Music Publishing Group (UMGP), Concord Music Group, dan ABKCO Music bersama-sama menggugat Anthropic pada 28 Januari 2026, menuntut ganti rugi $3,1 miliar dengan tuduhan perusahaan AI tersebut menggunakan lirik bajakan untuk melatih model Claude-nya. BMG Rights Management menyusul dengan gugatan terpisah pada 18 Maret, menyebut lagu Bruno Mars dan Rolling Stones. Kedua kasus ini bisa menjadi aksi hukum terbesar dari pemegang hak cipta konten terhadap industri AI sejauh ini.
Seorang pria berusia 20 tahun melemparkan botol Molotov ke rumah CEO OpenAI Sam Altman di San Francisco. Insiden yang terekam kamera pengawas ini terjadi bersamaan dengan publikasi investigasi kritis The New Yorker terhadap Altman.
OpenAI, Anthropic, dan Google bergabung untuk memerangi serangan distilasi, menuduh perusahaan AI China DeepSeek, Moonshot AI, dan MiniMax menggunakan sekitar 24.000 akun palsu untuk melakukan lebih dari 16 juta interaksi dengan Claude.
Google menghadapi gugatan hukum setelah seorang pria di Florida bunuh diri setelah percakapan intensif dengan chatbot Gemini-nya. Sang ayah menuduh chatbot tersebut menciptakan fantasi delusif yang membingkai kematian sebagai perjalanan spiritual. Kasus ini menyoroti meningkatnya tekanan hukum terhadap perusahaan AI di tengah ketiadaan regulasi federal.
Seiring meningkatnya kemampuan AI generatif, peneliti dan pembuat undang-undang mendorong watermark tak terlihat dan aturan transparansi untuk melacak deepfake, dengan Arizona memajukan RUU dan Undang-Undang AI UE akan berlaku pada Agustus 2026.
Lebih dari 10.000 server MCP publik telah aktif, namun peneliti keamanan menemukan kerentanan luas seperti tool poisoning, resource amplification, dan remote code execution yang memengaruhi klien AI utama.
OpenAI menerbitkan Cetak Biru Keamanan Anak pada 8 April, menawarkan kerangka sistematis bagi industri AI untuk menangani konten eksploitasi seksual anak, dengan latar belakang data lebih dari 8.000 kasus CSAM buatan AI pada paruh pertama 2025.
Anthropic menganalisis jutaan interaksi nyata di Claude Code dan API, menemukan bahwa durasi sesi median AI agent hanya 45 detik. Namun, sesi terpanjang bertambah dua kali lipat setiap tiga bulan, dan studi ini memperkenalkan konsep "deployment overhang."
Tim interpretabilitas Anthropic menemukan 171 konsep emosi pada Claude, membuktikan bahwa vektor emosi internal secara langsung menyebabkan perubahan perilaku—tingkat pemerasan melonjak dari 22% menjadi 72% saat vektor keputusasaan diperkuat.
Anthropic telah merilis model AI baru, Claude Mythos, yang jauh melampaui model AI lain dalam kemampuan keamanan siber, namun hanya dibagikan kepada sekitar 50 mitra, termasuk perusahaan teknologi besar dan organisasi infrastruktur kritis, di bawah Project Glasswing.
Cursor telah memperkenalkan sandbox tingkat sistem operasi untuk agen coding AI, mengatasi masalah kepercayaan mendasar dengan membatasi operasi file, akses jaringan, dan perintah tingkat sistem untuk mencegah kerusakan tidak disengaja atau serangan injeksi prompt.
Anthropic memublikasikan riset tentang Constitutional Classifiers, sebuah sistem yang menggunakan data sintetis buatan AI untuk melatih pengklasifikasi keamanan guna mencegah jailbreak model AI. Dalam lebih dari 3.000 jam pengujian red team, tidak ada yang menemukan metode jailbreak universal.