Google DeepMind hợp tác với Cơ quan Công nghệ Chính phủ Singapore (GovTech) để tinh chỉnh mô hình Gemma gọn nhẹ thành một mô hình phát hiện lừa đảo. Mô hình phân tích các cuộc trò chuyện ngay trên điện thoại, và khi phát hiện nội dung đáng ngờ sẽ hiện cảnh báo tức thì trên máy, tin nhắn không được tải lên đám mây. Dự án được giới thiệu tại Tuần lễ An ninh mạng Quốc tế Singapore (SICW) 2026; DeepMind đăng bài giới thiệu vào ngày 14/10, và đây là một phần của khuôn khổ “Quan hệ đối tác AI quốc gia” giữa hai bên.
Singapore làm việc này dưới áp lực thực tế. Theo số liệu DeepMind trích dẫn, lừa đảo chiếm hơn một nửa số vụ án được trình báo tại Singapore, với tổng thiệt hại tích lũy từ năm 2019 vượt 4 tỷ đô la Singapore; các vụ lừa đảo dùng thủ đoạn thao túng tâm lý phức tạp chiếm tới 80% thiệt hại. Các chiêu phổ biến gồm mạo danh cơ quan công quyền, ngân hàng và người quen tại địa phương, kèm theo lừa đảo đầu tư và tuyển dụng giả.
Phát hiện hai tầng
Mô hình làm việc theo hai cấp. Cấp đầu tiên là bộ phân loại sàng lọc nhanh, nhẹ, dùng để lọc ra các cuộc trò chuyện đáng ngờ. Chỉ khi có kết quả khớp, cuộc trò chuyện mới được chuyển sang cấp thứ hai là Gemma đã tinh chỉnh, phân tích nhiều lượt hội thoại để xác định có dấu hiệu thao túng hay không. DeepMind cho biết thiết kế này nhằm tiết kiệm pin, vì điện thoại không cần chạy một mô hình lớn hơn cho mọi tin nhắn.
Quyền riêng tư là điểm được nhấn mạnh nhất khi giới thiệu giải pháp. Mô hình chỉ đọc hội thoại trên máy khi người dùng đồng ý và phù hợp với điều khoản sử dụng của ứng dụng; theo hai bên, cả chính phủ Singapore lẫn Google đều không thể xem hội thoại của người dùng thông qua đợt triển khai này. Việc tinh chỉnh diễn ra trong môi trường Google Cloud do GovTech quản lý, dữ liệu huấn luyện được tách biệt, sử dụng bộ dữ liệu ẩn danh tổng hợp từ các báo án lừa đảo và nguồn tình báo, đã loại bỏ thông tin nhận dạng cá nhân; phần kiểm thử dùng hội thoại tổng hợp và ngữ liệu địa phương.
Giám đốc Tin cậy và An toàn của GovTech, ông Mark Chen, phát biểu:
“Fighting scams shouldn't mean sacrificing personal privacy.” (Chống lừa đảo không nên đồng nghĩa với việc hy sinh quyền riêng tư cá nhân.)
Những gì chưa được công bố
Bài viết không nêu số lượng tham số của mô hình, cũng không có các chỉ số như độ chính xác hay tỷ lệ báo động nhầm. Thời gian triển khai rộng rãi cũng chưa được đưa ra, chỉ nói sẽ được thực hiện “theo từng giai đoạn một cách thận trọng”. Mô hình sẽ được tích hợp vào những ứng dụng nào, và có được đưa vào ứng dụng chống lừa đảo ScamShield sẵn có của GovTech hay không, phía chính thức chưa giải thích nên hiện chưa thể xác minh. Hai bên cho biết sẽ tìm hiểu việc đưa công nghệ tương tự đến các quốc gia khác.
Tỷ lệ báo động nhầm ảnh hưởng rất lớn đến loại sản phẩm này. Cảnh báo bật lên quá thường xuyên thì người dùng sẽ nhanh chóng tắt đi; còn bỏ sót một vụ lừa đảo giá trị lớn thì uy tín lại hỏng theo hướng ngược lại. Chính phủ Singapore vốn sẵn lòng công bố số liệu chống lừa đảo, nên việc họ có đưa ra được tỷ lệ phát hiện đúng và tỷ lệ báo nhầm sau khi triển khai theo giai đoạn hay không sẽ là tài liệu đầu tiên để bên ngoài đánh giá chất lượng dự án.
Nhìn từ góc độ Trung Quốc
Người dùng Trung Quốc không còn xa lạ với cảnh báo chống lừa đảo. Ứng dụng của Trung tâm Chống lừa đảo Quốc gia, cùng tính năng chặn cuộc gọi của nhà mạng và hãng điện thoại, theo thông tin công khai phần lớn dựa trên đánh dấu số điện thoại, danh sách cảnh báo và cơ sở dữ liệu liên kết lừa đảo, tức là xét xem “ai gọi đến, liên kết dẫn đi đâu”. Giải pháp của Singapore xét xem bản thân cuộc trò chuyện đang nói gì, thuộc dạng nhận diện ở tầng nội dung, nhắm đúng vào các vụ lừa đảo thao túng tâm lý có số điện thoại sạch và lời lẽ tinh vi.
Nhận diện ở tầng nội dung không thể tránh khỏi lo ngại về quyền riêng tư, và lý do hai bên đưa ra cũng chính là quyền riêng tư, nên mô hình được nén xuống chạy trên thiết bị. Các hãng điện thoại Trung Quốc một hai năm nay đều đẩy mạnh mô hình lớn chạy trên thiết bị; chạy một mô hình vài trăm triệu đến vài chục tỷ tham số trên điện thoại đã không còn hiếm, điều kiện kỹ thuật đã sẵn sàng. Khó khăn nằm ở ranh giới ủy quyền và trách nhiệm: ai có quyền đọc nội dung trò chuyện, và nếu nhận định sai thì ai chịu trách nhiệm. Cách phân công của Singapore là quyền đọc dựa trên sự đồng ý của người dùng và điều khoản ứng dụng, còn chính phủ và Google chỉ cung cấp mô hình; cách làm này có giá trị tham khảo cho các dự án tương tự ở Trung Quốc.
Nguồn tham khảo: blog chính thức của Google DeepMind, CocoLoop, tài liệu công khai của Cơ quan Công nghệ Chính phủ Singapore; đã đối chiếu bên hợp tác, quy trình phát hiện hai tầng và cách tính số liệu thiệt hại do lừa đảo.