Ngày 19/11, TikTok công bố hai công cụ mới cho nội dung AI. Công cụ thứ nhất là Likeness Detection (phát hiện sử dụng khuôn mặt), bắt đầu được triển khai dần trên toàn cầu: nhà sáng tạo và nhân vật công chúng đã xác minh danh tính sẽ nhận được thông báo khi có người dùng khuôn mặt của họ để làm nội dung AI, và có thể báo cáo ngay trong công cụ. Công cụ thứ hai là một trang tra cứu công khai: bất kỳ ai cũng có thể tải lên một hình ảnh hoặc video để kiểm tra xem nó có được tạo hoặc chỉnh sửa bằng các tính năng AI của chính TikTok hay không, mà không cần tài khoản TikTok.
Quy trình của Likeness Detection gồm ba bước: người dùng đủ điều kiện xác minh giấy tờ tùy thân thông qua một đơn vị bên thứ ba rồi tham gia; khi hệ thống phát hiện nội dung và tài khoản có khả năng sử dụng hình ảnh của họ, người dùng nhận thông báo và xem xét từng mục trong công cụ; nếu thấy có vấn đề, họ báo thẳng cho đội ngũ an toàn. TikTok cho biết các video vi phạm quy tắc cộng đồng về nội dung có hại, gây hiểu lầm hoặc mô tả người khác khi chưa được đồng ý sẽ bị gỡ bỏ, và công ty không lưu giữ giấy tờ tùy thân của người dùng. Đối tượng áp dụng bao gồm cả tài khoản của chính phủ, chính trị gia và đảng phái.
Thời điểm nhắm vào các cuộc bầu cử châu Âu năm 2027
TikTok giới thiệu hai công cụ này tại một sự kiện về an toàn và đổi mới ở London. Francesca Scapolo, trưởng bộ phận quan hệ chính phủ phụ trách các vấn đề bầu cử châu Âu, nói:
"Protecting the integrity of the elections is one of the most critical responsibilities that we have at TikTok."
(Bảo vệ tính liêm chính của các cuộc bầu cử là một trong những trách nhiệm quan trọng nhất của TikTok.)
Theo báo The Straits Times, năm 2027 nhiều nước châu Âu như Ý, Pháp và Hy Lạp sẽ tổ chức bầu cử, và từ tháng 8 Liên minh châu Âu bắt đầu áp dụng quy tắc minh bạch về AI, yêu cầu gắn nhãn đối với nội dung do AI tạo ra như deepfake. Bản thân TikTok đã yêu cầu nhà sáng tạo gắn nhãn cho hình ảnh, âm thanh và video AI chân thực từ nhiều năm nay.
Ý tưởng của công cụ tra cứu là vá lỗ hổng của việc gắn nhãn. Năm 2024, TikTok trở thành nền tảng video đầu tiên áp dụng Content Credentials của C2PA: nội dung tạo bằng công cụ của TikTok tự động mang theo "giấy ghi nguồn gốc" này, và các nền tảng khác đọc được sẽ nhận ra. Tuy nhiên, một khi video bị tải xuống, chia sẻ lại hay chỉnh sửa, phần thông tin này thường biến mất. Ngoài việc đọc C2PA, công cụ mới còn dò thủy vân vô hình do TikTok tự phát triển có tên VeraDura, mà công ty cho là bền hơn và khó xóa hơn. Lối vào tra cứu nằm trong Trung tâm minh bạch của TikTok.
TikTok đồng thời công bố một số con số: đến nay nền tảng đã gắn nhãn hơn 5 tỷ video do AI tạo ra; hơn 99% nội dung vi phạm bị gỡ trước khi có người báo cáo; khu vực học về AI trong ứng dụng, ra mắt hồi tháng 7, đã giúp hơn 4 triệu người học cách nhận biết nội dung AI; còn các công cụ như "Không quan tâm" và bộ lọc từ khóa đã được hơn 79 triệu người ở Liên minh châu Âu sử dụng trong nửa đầu năm nay.
So với YouTube, TikTok chậm nửa nhịp
Về hướng phát hiện khuôn mặt, YouTube đi trước. Năm nay YouTube đã mở công cụ tương tự cho người nổi tiếng và các công ty quản lý, không yêu cầu họ có kênh YouTube, rồi mở rộng ra toàn cầu vào khoảng tháng 5. Phiên bản của TikTok đến tháng 7 mới bắt đầu thử nghiệm với một nhóm nhỏ nhà sáng tạo ở Mỹ, khi đó không đưa ra lịch mở rộng; bốn tháng sau, công cụ chuyển sang triển khai dần trên toàn cầu.
Cách làm của hai bên khá giống nhau: đều yêu cầu xác minh danh tính thật trước, sau đó đối chiếu khuôn mặt, và nền tảng xử lý dựa trên báo cáo. Khác biệt nằm ở phạm vi: YouTube mở cửa cả cho những người nổi tiếng không có mặt trên nền tảng, còn lần này TikTok chỉ ghi là "nhà sáng tạo và nhân vật công chúng đủ điều kiện"; ngoài Trung tâm trợ giúp, các thuyết minh công khai không nói rõ lượng người theo dõi bao nhiêu hay loại tài khoản nào được tính là đủ điều kiện.
Công cụ tra cứu có phạm vi hẹp hơn. Nó chỉ nhận ra được nội dung do các tính năng AI của chính TikTok tạo ra, dựa vào thông tin xác thực và thủy vân mà TikTok tự ghi vào. Video deepfake được tạo bằng mô hình của công ty khác rồi đăng lên TikTok thì công cụ này không phát hiện được; phần đó vẫn phải dựa vào kiểm duyệt của nền tảng và báo cáo của người dùng.
Vài câu hỏi chính thức vẫn chưa được trả lời: độ chính xác và tỷ lệ báo động sai của việc đối chiếu khuôn mặt, đợt đầu bao phủ bao nhiêu quốc gia, và sau khi báo cáo thì mất bao lâu để xử lý xong. Còn hơn một năm nữa là đến các cuộc bầu cử châu Âu, và đây sẽ là những con số mà cơ quan quản lý cùng các đội vận động tranh cử muốn xem nhất.
Nguồn tham khảo: Phòng báo chí chính thức của TikTok (quy trình của hai công cụ, đối tượng áp dụng và số liệu thống kê của nền tảng), The Straits Times, AFP, CocoLoop, Tubefilter (phạm vi mở của tính năng phát hiện khuôn mặt trên YouTube), Android Headlines; giải thích của Trung tâm trợ giúp TikTok về việc không lưu giữ giấy tờ tùy thân đã xác minh.