Google DeepMind und die singapurische Government Technology Agency (GovTech) haben das schlanke Modell Gemma zu einem Betrugserkennungsmodell feinjustiert. Es analysiert Unterhaltungen direkt auf dem Smartphone und blendet bei verdächtigen Inhalten sofort eine Warnung auf dem Gerät ein; Nachrichten werden nicht in die Cloud hochgeladen. Das Projekt wurde auf der Singapore International Cyber Week (SICW) 2026 vorgestellt, DeepMind beschrieb es am 14. Oktober in einem Blogbeitrag. Es entstand im Rahmen der „National AI Partnership“ beider Seiten.
Singapur steht bei diesem Thema unter realem Druck. Laut den von DeepMind zitierten Zahlen machen Betrugsdelikte mehr als die Hälfte der angezeigten Straftaten in Singapur aus, seit 2019 summieren sich die Schäden auf über 4 Milliarden Singapur-Dollar; bei komplexen Social-Engineering-Betrügereien liegt der Anteil am Schaden bei bis zu 80 Prozent. Typisch sind falsche Behörden, Banken und vermeintliche Bekannte vor Ort, dazu Anlagebetrug und falsche Stellenangebote.
Zweistufige Erkennung
Das Modell arbeitet in zwei Stufen. Die erste ist ein leichter, schneller Filter-Klassifikator, der verdächtige Unterhaltungen aussortiert. Nur bei einem Treffer wird die zweite Stufe aktiv, das feinjustierte Gemma, das mehrere Gesprächsrunden analysiert und beurteilt, ob manipulative Gesprächstaktiken im Spiel sind. DeepMind erklärt, das Design spare Strom, weil das Handy nicht für jede Nachricht ein größeres Modell ausführen muss.
Der Datenschutz steht im Mittelpunkt der Kommunikation. Das Modell liest Unterhaltungen auf dem Gerät nur mit Einwilligung der Nutzer und im Einklang mit den Nutzungsbedingungen der jeweiligen App; nach Angaben beider Seiten können weder die singapurische Regierung noch Google bei diesem Einsatz Gespräche der Nutzer einsehen. Das Feintuning lief in einer von GovTech verwalteten Google-Cloud-Umgebung, die Trainingsdaten wurden isoliert. Verwendet wurde ein anonymisierter Datensatz aus Betrugsanzeigen und Erkenntnisquellen, aus dem personenbezogene Angaben entfernt wurden; getestet wurde mit synthetischen Dialogen und lokalen Sprachdaten.
Mark Chen, Direktor für Vertrauen und Sicherheit bei GovTech, sagte dazu:
„Fighting scams shouldn't mean sacrificing personal privacy.“ (Betrugsbekämpfung darf nicht bedeuten, die Privatsphäre zu opfern.)
Was nicht veröffentlicht wurde
Der Beitrag nennt weder die Parameterzahl des Modells noch Kennzahlen wie Genauigkeit oder Falschalarmquote. Auch einen Zeitplan für die Einführung gibt es nicht, es heißt nur, man gehe „schrittweise und vorsichtig“ vor. In welchen Apps das Modell steckt und ob es in die bestehende Anti-Betrugs-App ScamShield von GovTech einfließt, haben die Verantwortlichen nicht erklärt, das lässt sich derzeit nicht überprüfen. Beide Seiten wollen prüfen, ob sich ähnliche Technik in andere Länder bringen lässt.
Die Falschalarmquote ist für solche Produkte entscheidend. Wer zu oft gewarnt wird, schaltet die Funktion rasch ab; wird dagegen ein Betrug mit hoher Schadenssumme übersehen, leidet der Ruf von der anderen Seite. Singapurs Regierung veröffentlicht Betrugsstatistiken traditionell gern. Ob sie nach der schrittweisen Einführung Trefferquote und Falschalarmquote nennt, wäre das erste Material, an dem sich die Qualität des Projekts von außen beurteilen lässt.
Der Blick nach China
Betrugswarnungen sind für Nutzer in China nichts Neues. Die App des Nationalen Anti-Betrugs-Zentrums sowie die Anrufsperren von Mobilfunkanbietern und Handyherstellern beruhen nach öffentlich zugänglichen Angaben meist auf Rufnummernmarkierungen, Warnlisten und Datenbanken betrügerischer Links; sie beurteilen also, „wer anruft und wohin ein Link führt“. Das singapurische System beurteilt dagegen, was im Gespräch selbst gesagt wird. Es erkennt also Inhalte und zielt genau auf Social-Engineering-Betrug mit sauberer Rufnummer und geschliffener Gesprächsführung.
Inhaltserkennung kommt an Datenschutzbedenken nicht vorbei, und die beiden Seiten nennen genau den Datenschutz als Grund, das Modell auf das Gerät zu verlagern. Chinesische Handyhersteller treiben seit ein bis zwei Jahren große On-Device-Modelle voran; ein Modell mit einigen hundert Millionen bis einigen Dutzend Milliarden Parametern auf dem Handy ist nichts Ungewöhnliches mehr, die technischen Voraussetzungen sind da. Schwierig sind Einwilligung und Verantwortungsgrenzen: Wer darf Chatinhalte lesen, und wer haftet bei einer Fehleinschätzung? Singapur teilt die Rollen so auf, dass das Leserecht an die Einwilligung der Nutzer und die App-Bedingungen geknüpft ist, während Regierung und Google lediglich das Modell liefern. Für vergleichbare Projekte in China ist dieser Ansatz ein nützlicher Referenzpunkt.
Quellen: offizieller Blog von Google DeepMind, CocoLoop, öffentliche Unterlagen der Government Technology Agency Singapur; geprüft wurden die Kooperationspartner, der zweistufige Erkennungsablauf und die Erhebungsgrundlage der Betrugsschäden.