Google DeepMind y la Agencia de Tecnología del Gobierno de Singapur (GovTech) han ajustado el ligero modelo Gemma para crear un detector de estafas. Analiza las conversaciones directamente en el teléfono y, si encuentra contenido sospechoso, muestra una alerta en tiempo real en el propio dispositivo, sin subir los mensajes a la nube. El proyecto se presentó en la Semana Internacional de Ciberseguridad de Singapur (SICW) 2026 y DeepMind lo detalló en una publicación el 14 de octubre, dentro del marco de la «Asociación Nacional de IA» entre ambas partes.
Singapur afronta una presión real en este terreno. Según las cifras que cita DeepMind, las estafas representan más de la mitad de los delitos denunciados en el país y las pérdidas acumuladas desde 2019 superan los 4.000 millones de dólares singapurenses; las estafas complejas de ingeniería social suponen hasta el 80 % de las pérdidas. Los métodos habituales incluyen suplantar a organismos públicos, bancos y conocidos locales, además de fraudes de inversión y falsas ofertas de empleo.
Detección en dos etapas
El modelo trabaja en dos niveles. El primero es un clasificador ligero de cribado rápido que selecciona las conversaciones sospechosas. Solo si hay coincidencia pasa la conversación al segundo nivel, el Gemma ajustado, que analiza varios turnos de diálogo para determinar si hay tácticas de manipulación. DeepMind explica que este diseño busca ahorrar batería, ya que el móvil no tiene que ejecutar un modelo más grande con cada mensaje.
La privacidad es el eje de la comunicación de esta solución. El modelo solo lee las conversaciones del dispositivo con el consentimiento del usuario y conforme a las condiciones de uso de la aplicación; según ambas partes, ni el Gobierno de Singapur ni Google pueden ver las conversaciones de los usuarios a través de este despliegue. El ajuste fino se realizó en un entorno de Google Cloud gestionado por GovTech, con los datos de entrenamiento aislados, a partir de un conjunto anonimizado elaborado con denuncias de estafas y fuentes de inteligencia, del que se eliminó la información personal identificable; las pruebas se hicieron con conversaciones sintéticas y corpus locales.
Mark Chen, director de Confianza y Seguridad de GovTech, declaró:
«Fighting scams shouldn't mean sacrificing personal privacy.» (Combatir las estafas no debería implicar sacrificar la privacidad personal.)
Lo que no se ha hecho público
El artículo no indica el número de parámetros del modelo ni incluye métricas como la precisión o la tasa de falsos positivos. Tampoco da fechas de despliegue: solo dice que se avanzará «por fases y con cautela». Qué aplicaciones lo integrarán y si se incorporará a ScamShield, la aplicación antiestafas que GovTech ya tiene, no lo han aclarado oficialmente y por ahora no se puede verificar. Ambas partes aseguran que explorarán llevar tecnología similar a otros países.
La tasa de falsos positivos pesa mucho en este tipo de productos. Si los avisos saltan con demasiada frecuencia, el usuario los desactiva enseguida; si se escapa una estafa de gran cuantía, la reputación se resiente por el otro lado. El Gobierno de Singapur suele estar dispuesto a publicar datos sobre la lucha contra el fraude, así que comprobar si, tras el lanzamiento por fases, ofrece tasas de acierto y de falsos positivos será el primer material con el que juzgar desde fuera la solidez del proyecto.
Visto desde China
Los usuarios chinos conocen bien los avisos antifraude. La aplicación del Centro Nacional Antifraude y los bloqueos de llamadas de operadores y fabricantes de móviles se basan, según la información pública, sobre todo en el marcado de números, listas de alerta y bases de enlaces fraudulentos, y juzgan «quién llama y adónde apunta el enlace». La solución de Singapur juzga lo que dice la propia conversación: es un reconocimiento a nivel de contenido, dirigido precisamente a las estafas de ingeniería social con número limpio y discurso elaborado.
El reconocimiento a nivel de contenido no puede eludir las preocupaciones de privacidad, y la razón que dan ambas partes es precisamente la privacidad, de ahí que el modelo se haya reducido para funcionar en el dispositivo. Los fabricantes chinos de móviles llevan uno o dos años impulsando grandes modelos en el dispositivo; ejecutar en un teléfono un modelo de varios cientos de millones a varias decenas de miles de millones de parámetros ya no es raro, y las condiciones técnicas están dadas. La dificultad está en la autorización y los límites de responsabilidad: quién tiene derecho a leer el contenido de los chats y a quién se atribuye un juicio erróneo. El reparto de Singapur condiciona el permiso de lectura al consentimiento del usuario y a las condiciones de la aplicación, mientras que el Gobierno y Google solo aportan el modelo, un enfoque que sirve de referencia para proyectos similares en China.
Fuentes: blog oficial de Google DeepMind, CocoLoop, materiales públicos de la Agencia de Tecnología del Gobierno de Singapur; se verificaron los socios de la colaboración, el flujo de detección en dos etapas y el criterio de las estadísticas de pérdidas por estafas.