Pada 19 November, TikTok mengumumkan dua alat baru untuk konten AI. Yang pertama adalah Likeness Detection (deteksi kemiripan wajah), yang mulai diluncurkan bertahap ke seluruh dunia. Kreator dan tokoh publik yang identitasnya sudah terverifikasi akan menerima pemberitahuan bahwa “ada yang membuat konten AI dengan wajah Anda” dan bisa langsung melaporkannya. Yang kedua adalah alat cek publik: siapa pun dapat mengunggah gambar atau video untuk memeriksa apakah itu dibuat atau diedit dengan fitur AI milik TikTok sendiri, tanpa perlu akun TikTok.
Alur Likeness Detection terdiri dari tiga langkah. Pengguna yang memenuhi syarat bergabung setelah dokumen identitasnya diverifikasi oleh pihak ketiga. Saat sistem menemukan konten dan akun yang mungkin memakai kemiripan wajah mereka, sistem mengirim pemberitahuan, lalu pengguna memeriksa satu per satu di dalam alat. Jika ada yang janggal, mereka langsung melapor ke tim keamanan. TikTok menyatakan video yang melanggar Pedoman Komunitas soal konten berbahaya atau menyesatkan, atau yang menggambarkan seseorang tanpa persetujuan, akan dihapus, dan perusahaan tidak menyimpan dokumen identitas pengguna. Alat ini juga berlaku untuk akun pemerintah, politisi, dan partai politik.
Waktunya mengarah ke pemilu Eropa 2027
TikTok memperkenalkan kedua alat ini pada acara keamanan dan inovasi di London. Francesca Scapolo, kepala hubungan pemerintah yang menangani urusan pemilu Eropa, mengatakan:
“Protecting the integrity of the elections is one of the most critical responsibilities that we have at TikTok.” (Menjaga integritas pemilu adalah salah satu tanggung jawab terpenting TikTok.)
Menurut The Straits Times, sejumlah negara Eropa termasuk Italia, Prancis, dan Yunani akan menggelar pemilu pada 2027, dan Uni Eropa sejak Agustus mulai menerapkan aturan transparansi AI yang mewajibkan konten buatan AI seperti deepfake diberi label. TikTok sendiri sudah beberapa tahun meminta kreator memberi label pada gambar, audio, dan video AI yang tampak realistis.
Alat cek ini dimaksudkan untuk menambal celah pada label. Pada 2024, TikTok menjadi platform video pertama yang mengadopsi C2PA Content Credentials, sehingga konten yang dibuat dengan alatnya sendiri otomatis membawa “keterangan asal-usul” ini, yang bisa dibaca platform lain untuk mengenalinya. Namun begitu video diunduh, dibagikan ulang, atau disunting, kredensial itu sering hilang. Selain membaca C2PA, alat baru ini juga mendeteksi VeraDura, watermark tak kasatmata buatan TikTok sendiri, yang menurut perusahaan lebih awet dan lebih sulit dihapus. Pintu masuk alat cek ini berada di Pusat Transparansi TikTok.
TikTok juga merilis beberapa angka. Sejauh ini platform telah memberi label pada lebih dari 5 miliar video buatan AI. Lebih dari 99% konten pelanggar dihapus sebelum ada yang melaporkannya. Pusat literasi AI di dalam aplikasi yang dibuka pada Juli telah membantu lebih dari 4 juta orang belajar mengenali konten AI. Adapun alat seperti “Tidak tertarik” dan filter kata kunci digunakan lebih dari 79 juta orang di Uni Eropa pada semester pertama tahun ini.
Setengah langkah di belakang YouTube
Dalam deteksi kemiripan wajah, YouTube lebih dulu. Tahun ini YouTube sudah membuka alat serupa untuk selebritas dan agensi, tanpa mensyaratkan mereka punya kanal YouTube, lalu memperluasnya ke seluruh dunia sekitar Mei. Versi TikTok baru mulai diuji pada Juli dengan sekelompok kecil kreator di Amerika Serikat, dan saat itu tanpa jadwal perluasan. Empat bulan kemudian, alat ini beralih ke peluncuran global secara bertahap.
Cara kerja keduanya mirip: sama-sama meminta verifikasi identitas lebih dulu, lalu mencocokkan wajah, dan platform menindaklanjuti berdasarkan laporan. Bedanya ada di cakupan. YouTube membuka pintu bagi figur publik yang tidak berada di platformnya, sedangkan rumusan TikTok kali ini adalah “kreator dan tokoh publik yang memenuhi syarat”. Berapa jumlah pengikut yang dibutuhkan dan jenis akun apa yang memenuhi syarat tidak dijelaskan secara terbuka di luar Pusat Bantuan.
Batas alat cek lebih sempit lagi. Alat ini hanya bisa mengenali konten buatan fitur AI milik TikTok sendiri, dengan mengandalkan kredensial dan watermark yang ditanam TikTok. Video deepfake yang dibuat dengan model perusahaan lain lalu diunggah ke TikTok tidak akan terdeteksi alat ini, sehingga bagian itu tetap bergantung pada moderasi platform dan laporan pengguna.
Beberapa pertanyaan belum dijawab TikTok: akurasi dan tingkat salah deteksi pencocokan wajah, berapa negara yang tercakup di gelombang pertama, dan berapa lama laporan diproses. Pemilu Eropa masih lebih dari setahun lagi, dan angka-angka itulah yang paling ingin dilihat regulator dan tim kampanye.
Sumber: Ruang Berita Resmi TikTok (alur kedua alat, kelompok pengguna yang berlaku, dan statistik platform), The Straits Times, AFP, CocoLoop, Tubefilter (cakupan deteksi kemiripan wajah YouTube), Android Headlines; Pusat Bantuan TikTok (keterangan bahwa dokumen identitas tidak disimpan).