Google DeepMindとシンガポール政府技術庁(GovTech)は、軽量モデルGemmaを微調整した詐欺検知モデルを共同で開発した。スマートフォン上で会話を直接分析し、不審な内容を見つけると端末内でリアルタイムに警告を表示する。メッセージはクラウドにアップロードされない。このプロジェクトは2026年のシンガポール国際サイバーウィーク(SICW)で披露され、DeepMindが10月14日に記事で紹介した。両者の「国家AIパートナーシップ」の枠組みに基づく取り組みだ。
シンガポールがこの分野に取り組む背景には、切迫した事情がある。DeepMindが記事中で引用するデータによると、詐欺はシンガポールの届け出犯罪の半数以上を占め、2019年以降の累計被害額は40億シンガポールドルを超える。巧妙なソーシャルエンジニアリング型の詐欺が被害額に占める割合は最大80%に達するという。典型的な手口は、公的機関や銀行、地元の知人になりすますもので、投資詐欺や偽の求人も含まれる。
二段階の検知
モデルは二段階で動作する。第一段階は軽量で高速なスクリーニング用の分類器で、まず不審な会話を絞り込む。該当した場合にのみ第二段階、つまり微調整されたGemmaに渡され、複数ターンにわたる会話を分析して、相手を操る話術が含まれているかを判断する。DeepMindは、この設計は省電力のためで、すべてのメッセージに対してやや大きなモデルを走らせずに済むと説明している。
この方式が対外的に最も強調しているのはプライバシーだ。モデルは、ユーザーが同意し、かつ該当アプリの利用規約に沿う場合にのみ端末内の会話を読み取る。両者の説明では、今回の展開を通じてシンガポール政府もGoogleもユーザーの会話を見ることはできない。微調整はGovTechが管理するGoogle Cloud環境で行われ、学習データは隔離されていた。使われたのは詐欺の被害届や情報源から整理した匿名化データセットで、個人を特定できる情報は除かれている。テストには合成された会話と現地の言語資料が用いられた。
GovTechのトラスト&セーフティ担当ディレクター、Mark Chen氏は次のように述べている。
「Fighting scams shouldn't mean sacrificing personal privacy.」(詐欺対策のために個人のプライバシーを犠牲にしてはならない。)
公表されていない部分
記事にはモデルのパラメータ数も、精度や誤検知率といった指標も書かれていない。展開時期も示されておらず、「段階的に慎重に進める」とのみ述べている。どのアプリに組み込まれるのか、GovTechが既に提供している詐欺対策アプリ「ScamShield」に統合されるのかについて、公式の説明はなく、現時点では確認できない。両者は、同様の技術を他の国にも広げる可能性を探るとしている。
この種の製品では誤検知率が大きく影響する。警告が頻繁に出れば、ユーザーはすぐに通知を切ってしまう。一方で高額の詐欺を一度でも見逃せば、今度は別の側面から評判を落とす。シンガポール政府は従来から詐欺対策のデータを積極的に公開してきた。段階的な展開の後に検知率と誤検知率を示せるかどうかが、外部がこのプロジェクトの実力を見極める最初の材料になるだろう。
中国から見ると
中国のユーザーにとって、詐欺対策の警告は馴染み深い。国家反詐欺センターのアプリや、通信事業者・スマートフォンメーカーの着信ブロックは、公開されている説明を見る限り、番号へのタグ付け、警戒リスト、詐欺関連リンクのデータベースに基づくものが大半だ。判断の対象は「誰からの電話か」「リンクの飛び先はどこか」である。シンガポールの方式は会話そのものの内容を判断する、内容レベルの識別だ。番号がクリーンで話術が巧妙なソーシャルエンジニアリング型の詐欺に、まさに対応するものといえる。
内容レベルの識別にはプライバシーへの懸念がつきまとう。両者が挙げた理由もまさにプライバシーであり、そのためモデルは端末側に押し込められた。中国のスマートフォンメーカーもここ1、2年、オンデバイスの大規模モデルを推進しており、数億から数十億パラメータのモデルをスマートフォンで動かすことは珍しくなくなった。技術的な条件は整っている。難しいのは権限と責任の境界だ。誰にチャット内容を読む権利があるのか、判断を誤った場合は誰の責任になるのか。シンガポールの役割分担では、読み取りの権限をユーザーの同意とアプリの利用規約に結びつけ、政府とGoogleはモデルを提供するだけだ。このやり方は、中国国内の同種のプロジェクトにとっても参考になる。
参考資料: Google DeepMind公式ブログ、CocoLoop、シンガポール政府技術庁の公開資料。提携先、二段階の検知フロー、詐欺被害統計の算定基準を確認した。