Google DeepMind et l’Agence des technologies du gouvernement de Singapour (GovTech) ont affiné le modèle léger Gemma pour en faire un détecteur d’arnaques. Il analyse les conversations directement sur le téléphone et, en cas de contenu suspect, affiche une alerte en temps réel sur l’appareil, sans téléverser les messages vers le cloud. Le projet a été présenté lors de la Semaine internationale de la cybersécurité de Singapour (SICW) 2026, et DeepMind l’a détaillé dans un article publié le 14 octobre, dans le cadre du « Partenariat national pour l’IA » conclu entre les deux parties.
Singapour agit sous une pression bien réelle. D’après les chiffres cités par DeepMind, les arnaques représentent plus de la moitié des infractions signalées dans le pays, avec des pertes cumulées de plus de 4 milliards de dollars singapouriens depuis 2019 ; les arnaques complexes d’ingénierie sociale comptent jusqu’à 80 % des pertes. Les méthodes courantes consistent à usurper l’identité d’organismes publics, de banques ou de proches locaux, auxquelles s’ajoutent les escroqueries à l’investissement et les fausses offres d’emploi.
Une détection en deux étapes
Le modèle fonctionne à deux niveaux. Le premier est un classificateur de présélection léger et rapide, qui repère les conversations suspectes. Ce n’est qu’en cas de correspondance que la conversation passe au second niveau, le Gemma affiné, qui analyse plusieurs tours de dialogue pour déterminer s’il y a des techniques de manipulation. DeepMind explique que cette conception vise à économiser la batterie, le téléphone n’ayant pas à exécuter un modèle plus lourd pour chaque message.
La confidentialité est le point sur lequel la communication insiste le plus. Le modèle ne lit les conversations de l’appareil qu’avec le consentement de l’utilisateur et dans le respect des conditions d’utilisation de l’application ; selon les deux parties, ni le gouvernement singapourien ni Google ne peuvent voir les conversations des utilisateurs via ce déploiement. L’affinage a été réalisé dans un environnement Google Cloud géré par GovTech, avec des données d’entraînement isolées, à partir d’un jeu de données anonymisé constitué de signalements d’arnaques et de sources de renseignement, dont les informations permettant d’identifier les personnes ont été retirées ; les tests ont utilisé des conversations synthétiques et des corpus locaux.
Mark Chen, directeur de la confiance et de la sécurité chez GovTech, a déclaré :
« Fighting scams shouldn't mean sacrificing personal privacy. » (Lutter contre les arnaques ne doit pas signifier sacrifier la vie privée.)
Ce qui n’a pas été rendu public
L’article ne donne ni le nombre de paramètres du modèle ni des indicateurs comme la précision ou le taux de faux positifs. Le calendrier de déploiement n’est pas non plus précisé : on parle seulement d’une progression « par étapes et avec prudence ». Dans quelles applications le modèle sera intégré, et s’il sera intégré à ScamShield, l’application anti-arnaque déjà proposée par GovTech, les responsables ne l’ont pas précisé, et cela ne peut pas être vérifié pour l’instant. Les deux parties affirment qu’elles étudieront la possibilité d’exporter une technologie similaire vers d’autres pays.
Le taux de faux positifs pèse lourd pour ce type de produit. Si les alertes s’affichent trop souvent, l’utilisateur les désactive vite ; si une arnaque à fort montant passe entre les mailles, la réputation est entamée de l’autre côté. Le gouvernement singapourien publie volontiers des données sur la lutte contre les fraudes ; savoir s’il fournira taux de détection et taux de faux positifs après le déploiement par étapes sera le premier élément pour juger de la solidité du projet de l’extérieur.
Le regard depuis la Chine
Les utilisateurs chinois connaissent bien les alertes anti-fraude. L’application du Centre national anti-fraude, ainsi que les blocages d’appels des opérateurs et des fabricants de téléphones, reposent pour la plupart, d’après les informations publiques, sur le marquage des numéros, les listes d’alerte et les bases de liens frauduleux : ils jugent « qui appelle et vers où pointe le lien ». La solution de Singapour juge ce que dit la conversation elle-même, c’est-à-dire une reconnaissance au niveau du contenu, qui vise précisément les arnaques d’ingénierie sociale au numéro irréprochable et au discours habile.
La reconnaissance au niveau du contenu ne peut éviter les inquiétudes sur la vie privée, et la raison avancée par les deux parties est précisément la vie privée, d’où le choix de réduire le modèle pour l’exécuter sur l’appareil. Les fabricants chinois de téléphones poussent depuis un ou deux ans les grands modèles embarqués ; faire tourner sur un téléphone un modèle de quelques centaines de millions à quelques dizaines de milliards de paramètres n’a plus rien d’exceptionnel, les conditions techniques sont réunies. La difficulté réside dans l’autorisation et la répartition des responsabilités : qui a le droit de lire le contenu des conversations, et qui est responsable en cas d’erreur de jugement. La répartition adoptée à Singapour subordonne le droit de lecture au consentement de l’utilisateur et aux conditions de l’application, le gouvernement et Google se contentant de fournir le modèle, une approche qui peut servir de référence aux projets comparables en Chine.
Sources : blog officiel de Google DeepMind, CocoLoop, documents publics de l’Agence des technologies du gouvernement de Singapour ; ont été vérifiés les partenaires de la collaboration, le processus de détection en deux étapes et le périmètre des statistiques de pertes liées aux arnaques.