구글 딥마인드(Google DeepMind)와 싱가포르 정부기술청(GovTech)이 경량 모델 Gemma를 미세 조정해 사기 탐지 모델을 만들었다. 스마트폰에서 대화를 직접 분석하고, 의심스러운 내용을 발견하면 기기 안에서 실시간으로 경고를 띄운다. 메시지는 클라우드에 업로드되지 않는다. 이 프로젝트는 2026년 싱가포르 국제 사이버 위크(SICW)에서 공개됐으며, 딥마인드가 10월 14일 게시글로 소개했다. 양측의 '국가 AI 파트너십' 틀 안에서 진행되는 협력이다.
싱가포르가 이 일에 나선 데에는 현실적인 압박이 있다. 딥마인드가 글에서 인용한 데이터에 따르면 사기는 싱가포르 신고 범죄의 절반 이상을 차지하고, 2019년 이후 누적 피해액은 40억 싱가포르달러를 넘는다. 정교한 사회공학형 사기가 피해액에서 차지하는 비중은 최대 80%에 이른다. 흔한 수법은 공공기관, 은행, 지인을 사칭하는 것이며 투자 사기와 가짜 채용도 포함된다.
2단계 탐지
모델은 두 단계로 작동한다. 1단계는 가볍고 빠른 선별 분류기로, 의심스러운 대화를 먼저 골라낸다. 여기에 걸린 대화만 2단계, 즉 미세 조정된 Gemma로 넘어가 여러 턴에 걸친 대화를 분석하고 상대를 조종하는 화법이 있는지 판단한다. 딥마인드는 이런 설계가 전력을 아끼기 위한 것이며, 모든 메시지마다 더 큰 모델을 돌릴 필요가 없다고 설명한다.
이 방식이 대외적으로 가장 강조하는 것은 프라이버시다. 모델은 사용자가 동의하고 해당 앱의 이용 약관에 부합하는 경우에만 기기 안의 대화를 읽는다. 양측 설명에 따르면 이번 배포를 통해 싱가포르 정부와 구글 모두 사용자 대화를 볼 수 없다. 미세 조정은 GovTech가 관리하는 Google Cloud 환경에서 이뤄졌고 학습 데이터는 격리됐다. 사기 신고와 정보원에서 정리한 익명 데이터셋을 사용했으며 개인 식별 정보는 제거했다. 테스트에는 합성 대화와 현지 언어 자료가 쓰였다.
GovTech 신뢰·안전 디렉터 마크 첸(Mark Chen)의 말은 이렇다.
"Fighting scams shouldn't mean sacrificing personal privacy." (사기와 싸우는 일이 개인 프라이버시를 희생하는 것이어서는 안 됩니다.)
공개되지 않은 부분
글에는 모델의 파라미터 규모도, 정확도나 오탐률 같은 지표도 없다. 출시 시기도 제시되지 않았고 '단계적으로 신중하게 추진하겠다'고만 했다. 어떤 앱에 탑재될지, GovTech가 이미 운영 중인 사기 방지 앱 ScamShield에 통합될지는 공식적으로 밝히지 않아 현재로서는 확인할 수 없다. 양측은 비슷한 기술을 다른 나라에도 적용하는 방안을 모색하겠다고 밝혔다.
이런 제품에서는 오탐률이 매우 중요하다. 경고가 너무 자주 뜨면 사용자는 금세 꺼 버린다. 반대로 고액 사기를 한 번이라도 놓치면 이번에는 다른 쪽에서 평판이 무너진다. 싱가포르 정부는 그동안 사기 대응 데이터를 적극적으로 공개해 왔다. 단계적 출시 이후 탐지율과 오탐률을 내놓을 수 있느냐가 외부에서 이 프로젝트의 완성도를 가늠하는 첫 번째 자료가 될 것이다.
중국의 관점에서 보면
중국 사용자에게 사기 경고는 낯설지 않다. 국가반사기센터(National Anti-Fraud Center) 앱과 통신사, 스마트폰 제조사의 수신 차단 기능은 공개된 설명으로 보면 대부분 번호 태깅, 경보 목록, 사기 연루 링크 데이터베이스에 기반한다. 판단 대상은 '누가 걸었는가', '링크가 어디를 가리키는가'다. 싱가포르의 방식은 대화 자체가 무슨 말을 하는지를 판단하는 콘텐츠 수준의 식별이다. 번호는 깨끗하지만 화법이 교묘한 사회공학형 사기를 정확히 겨냥한 것이다.
콘텐츠 수준의 식별에는 프라이버시 우려가 따라붙는다. 양측이 내세운 이유도 바로 프라이버시이고, 그래서 모델을 기기 쪽으로 내렸다. 중국 스마트폰 제조사들도 최근 한두 해 동안 온디바이스 대규모 모델을 밀어 왔고, 수억에서 수십억 파라미터 모델을 스마트폰에서 돌리는 일은 더 이상 드물지 않다. 기술 조건은 갖춰져 있다. 어려운 것은 권한과 책임의 경계다. 누가 채팅 내용을 읽을 권리가 있는지, 판단이 틀렸을 때 책임은 누구에게 있는지가 문제다. 싱가포르의 역할 분담은 읽기 권한을 사용자 동의와 앱 약관에 묶고, 정부와 구글은 모델만 제공하는 것이다. 이 방식은 중국 내 유사 프로젝트에도 참고할 만하다.
참고 출처: Google DeepMind 공식 블로그, CocoLoop, 싱가포르 정부기술청 공개 자료. 협력 주체, 2단계 탐지 절차, 사기 피해 통계의 산정 기준을 확인했다.