Google DeepMind dan Badan Teknologi Pemerintah Singapura (GovTech) bekerja sama membuat model pendeteksi penipuan dengan menyempurnakan (fine-tuning) Gemma yang ringan. Model ini menganalisis percakapan langsung di ponsel, dan ketika menemukan sesuatu yang mencurigakan, peringatan real-time muncul di perangkat itu sendiri. Pesan tidak diunggah ke cloud. Proyek ini diperlihatkan pada Singapore International Cyber Week (SICW) 2026, dan DeepMind menjelaskannya dalam sebuah tulisan pada 14 Oktober. Kerja sama ini berada di bawah kerangka "National AI Partnership" kedua pihak.
Singapura punya tekanan nyata di balik langkah ini. Menurut data yang dikutip DeepMind, penipuan menyumbang lebih dari separuh kejahatan yang dilaporkan di Singapura, dengan total kerugian sejak 2019 melampaui S$4 miliar, dan penipuan rekayasa sosial yang rumit menyumbang hingga 80% dari kerugian. Modus yang umum adalah menyamar sebagai lembaga publik, bank, dan kenalan lokal, termasuk penipuan investasi dan lowongan kerja palsu.
Deteksi dua tahap
Model bekerja dalam dua tingkat. Tingkat pertama adalah pengklasifikasi penyaring yang ringan dan cepat, yang memilah percakapan mencurigakan lebih dulu. Hanya setelah ada yang terdeteksi, percakapan diteruskan ke tingkat kedua, yaitu Gemma yang sudah disempurnakan, untuk dianalisis lintas beberapa giliran bicara guna menilai apakah ada taktik manipulasi. DeepMind menyebut desain ini dimaksudkan untuk menghemat baterai, agar ponsel tidak perlu menjalankan model yang lebih besar pada setiap pesan.
Privasi adalah poin yang paling ditonjolkan dalam komunikasi publik skema ini. Model hanya membaca percakapan di perangkat jika pengguna menyetujuinya dan sesuai dengan ketentuan penggunaan aplikasi terkait. Menurut kedua pihak, baik pemerintah Singapura maupun Google tidak dapat melihat percakapan pengguna melalui penerapan ini. Penyempurnaan dilakukan di lingkungan Google Cloud yang dikelola GovTech, dengan data pelatihan yang diisolasi. Data yang dipakai adalah kumpulan data anonim yang disusun dari laporan penipuan dan sumber intelijen, dengan informasi yang dapat mengidentifikasi pribadi sudah dihapus; pengujian memakai percakapan sintetis dan korpus lokal.
Direktur Kepercayaan dan Keamanan GovTech, Mark Chen, menyatakan:
"Fighting scams shouldn't mean sacrificing personal privacy." (Memerangi penipuan tidak boleh berarti mengorbankan privasi pribadi.)
Bagian yang belum dipublikasikan
Tulisan tersebut tidak memuat jumlah parameter model, juga tidak ada metrik seperti akurasi atau tingkat false positive. Jadwal peluncuran pun tidak diberikan; hanya disebutkan bahwa pelaksanaan akan berjalan "bertahap dan hati-hati". Aplikasi mana saja yang akan memasangnya, dan apakah model ini akan digabungkan ke aplikasi antipenipuan ScamShield milik GovTech yang sudah ada, tidak dijelaskan secara resmi dan saat ini belum dapat diverifikasi. Kedua pihak menyatakan akan menjajaki penerapan teknologi serupa di negara lain.
Tingkat false positive sangat berpengaruh pada produk semacam ini. Jika peringatan terlalu sering muncul, pengguna akan cepat mematikannya; jika satu penipuan bernilai besar lolos, reputasi justru rusak dari sisi lain. Pemerintah Singapura selama ini bersedia mempublikasikan data antipenipuan, sehingga apakah setelah peluncuran bertahap mereka bisa menyajikan tingkat deteksi dan tingkat false positive dapat menjadi bahan pertama bagi pihak luar untuk menilai kualitas proyek ini.
Bila dilihat dari Tiongkok
Pengguna di Tiongkok sudah tidak asing dengan peringatan antipenipuan. Aplikasi Pusat Antipenipuan Nasional (National Anti-Fraud Center) serta pemblokiran panggilan dari operator dan produsen ponsel, dilihat dari penjelasan yang dipublikasikan, sebagian besar bertumpu pada penandaan nomor, daftar peringatan, dan basis data tautan terkait penipuan. Yang dinilai adalah "siapa yang menelepon dan ke mana tautan mengarah". Skema Singapura menilai apa yang dikatakan dalam percakapan itu sendiri, yaitu pengenalan pada tingkat isi, dan justru menyasar penipuan rekayasa sosial dengan nomor yang bersih dan skrip yang meyakinkan.
Pengenalan pada tingkat isi tidak lepas dari kekhawatiran privasi, dan alasan yang dikemukakan kedua pihak memang privasi, sehingga model ditekan hingga ke sisi perangkat. Produsen ponsel di Tiongkok dalam satu-dua tahun terakhir juga mendorong model besar di perangkat, dan menjalankan model berparameter ratusan juta hingga puluhan miliar di ponsel sudah tidak aneh, jadi syarat teknisnya terpenuhi. Kesulitannya ada pada otorisasi dan batas tanggung jawab: siapa yang berhak membaca isi obrolan, dan siapa yang bertanggung jawab bila penilaiannya keliru. Pembagian peran di Singapura mengaitkan hak baca dengan persetujuan pengguna dan ketentuan aplikasi, sementara pemerintah dan Google hanya menyediakan model. Pendekatan ini layak menjadi acuan bagi proyek sejenis di Tiongkok.
Sumber: blog resmi Google DeepMind, CocoLoop, materi publik Badan Teknologi Pemerintah Singapura; pihak yang bekerja sama, alur deteksi dua tahap, dan dasar perhitungan statistik kerugian penipuan telah diperiksa.