Ariel Simon, wakil presiden riset di perusahaan keamanan siber Vigilance Security, mempublikasikan laporan yang menamai serangan yang masih berlangsung ini "Dark Sourcery". Para penyerang menyebar postingan, PDF, ulasan, dan halaman dukungan palsu yang sudah dioptimalkan ke seluruh internet, sehingga ketika pengguna bertanya kepada ChatGPT, Google Gemini, atau AI Overview milik Google tentang kontak sebuah perusahaan, AI justru memberikan nomor telepon penipuan, alamat email palsu, atau halaman login phishing. Peneliti mencatat setidaknya 374 brand yang terdampak.
Temuan ini pertama kali dipublikasikan di Medium, lalu diliput oleh media keamanan siber dan teknologi seperti Dark Reading dan GIGAZINE.
Yang jadi sasaran adalah perusahaan yang penggunanya buru-buru mencari bantuan manusia
Perusahaan yang disebut dalam laporan ini terkonsentrasi di sektor penerbangan, perbankan, dan platform perjalanan: Delta Air Lines, Lufthansa, Qatar Airways, Chase (anak usaha JPMorgan Chase), Bank of America, Airbnb, dan TripAdvisor. Kesamaan dari perusahaan-perusahaan ini: saat pengguna menghubungi mereka, biasanya dalam keadaan terburu-buru — penerbangan perlu diubah jadwalnya, akun terkunci, atau pesanan bermasalah. Momen seperti inilah yang paling sering membuat orang bertanya ke AI, "berapa nomor customer service-nya?"
Peneliti benar-benar mencoba menelepon beberapa nomor tersebut. Menurut Dark Reading, orang yang mengangkat telepon dengan senang hati menawarkan bantuan mengubah jadwal penerbangan atau membuka blokir rekening bank, lalu meminta informasi kartu kredit. Ada pula pengguna lain yang melaporkan informasi pembayaran dan kartu kreditnya dicuri setelah menghubungi nomor customer service yang direkomendasikan AI.
Tiga cara meracuni sumber informasi
Menurut laporan tersebut, penyerang tidak menyentuh model AI secara langsung — mereka menyasar sumber-sumber yang dipercaya oleh model tersebut:
- Menyisipkan konten berisi nomor palsu ke situs pemerintah dan universitas yang sudah diretas, meminjam otoritas domain tersebut
- Mengunggah video dan ulasan di platform berisi konten buatan pengguna seperti YouTube dan Yelp
- Memproduksi massal halaman sampah yang dioptimalkan khusus untuk cara model bahasa besar mengambil dan mengurutkan informasi
Kesimpulan GIGAZINE, penyerang mencampur "sumber otoritatif" dengan "sumber opini publik", dan ini kebetulan pas dengan cara AI menilai kredibilitas. Berikut kutipan langsung dari Simon:
"Attackers are flooding the web with carefully optimized posts, PDFs, reviews, and fake support pages, to trick AI into presenting fraudulent phone numbers, email addresses, and login pages."
"Para penyerang membanjiri internet dengan postingan, PDF, ulasan, dan halaman dukungan palsu yang dioptimalkan dengan cermat, untuk menipu AI agar menampilkan nomor telepon, alamat email, dan halaman login palsu."
Laporan ini juga mengutip survei Exploding Topics pada Agustus: dari orang-orang yang menggunakan chatbot AI, 91% tidak memverifikasi jawaban yang mereka terima.
Penipuan lama, pintu masuk baru
Bisnis nomor customer service palsu ini sudah ada sejak bertahun-tahun lalu. Dulu penipu menyamar sebagai maskapai dan bank lewat iklan hasil pencarian serta info bisnis di peta; mesin pencari melawan dengan tinjauan iklan dan verifikasi bisnis, dan pengguna setidaknya masih bisa melihat deretan tautan untuk mengetahui dari situs mana nomor itu berasal.
AI Overview langsung menuliskan nomor tersebut dalam satu jawaban yang terasa lengkap, sementara sumbernya dipadatkan jadi tanda kutipan kecil yang nyaris tidak pernah diklik untuk diperiksa. Target yang harus ditipu penyerang pun berubah — dari pengguna yang menelusuri halaman hasil pencarian, menjadi sistem pengambilan dan perangkingan itu sendiri, yang memang sudah cenderung mengutamakan domain berotoritas tinggi seperti .gov dan .edu. Di mata sistem AI, satu halaman .edu yang diretas bisa punya bobot lebih berat daripada gabungan banyak situs biasa.
Peneliti mengatakan serangan ini masih berlangsung dan kerugian nyata sedang terjadi, meski mereka belum bisa mengukur skalanya secara utuh. Belum ada pernyataan resmi dari OpenAI maupun Google soal apakah mereka sudah memblokir nomor-nomor yang disebut dalam laporan ini.
Untuk pengguna biasa, yang bisa dilakukan sebenarnya sederhana: untuk hal-hal seperti nomor customer service, halaman pembayaran, atau halaman login, sebaiknya kembali cek langsung lewat situs resmi atau aplikasi resmi perusahaan tersebut.
Sumber: laporan riset Vigilance Security, CocoLoop, Dark Reading, GIGAZINE, The Hacker News; jumlah brand terdampak dan perusahaan yang disebut mengikuti laporan riset, sedangkan tingkat verifikasi pengguna mengikuti survei Exploding Topics.