TikTok extiende al mundo su detección de imagen en deepfakes

AI security illustration: a shield sealing a red crack in a network

El 19 de noviembre, TikTok anunció dos nuevas herramientas para contenido de IA. Una es Likeness Detection (detección de imagen personal), que empieza a desplegarse de forma gradual en todo el mundo: los creadores y figuras públicas con identidad verificada recibirán un aviso cuando alguien use su rostro en contenido de IA y podrán denunciarlo directamente. La otra es una herramienta pública de consulta: cualquier persona puede subir una imagen o un vídeo y comprobar si fue generado o editado con las funciones de IA del propio TikTok, sin necesidad de tener una cuenta en la plataforma.

El proceso de Likeness Detection consta de tres pasos: los usuarios elegibles verifican su documento de identidad a través de un tercero y se incorporan; cuando el sistema detecta contenidos y cuentas que podrían usar su imagen, les envía una notificación y ellos revisan cada caso en la herramienta; si algo les parece problemático, lo denuncian directamente al equipo de seguridad. TikTok afirma que se eliminarán los vídeos que infrinjan las normas comunitarias sobre contenido dañino, engañoso o que represente a otras personas sin su consentimiento, y que la empresa no conserva los documentos de identidad de los usuarios. Entre el público destinatario figuran las cuentas de gobiernos, políticos y partidos.

El momento apunta a las elecciones europeas de 2027

TikTok presentó ambas herramientas en un evento sobre seguridad e innovación celebrado en Londres. Francesca Scapolo, responsable de relaciones con gobiernos y de asuntos electorales europeos, dijo:

"Protecting the integrity of the elections is one of the most critical responsibilities that we have at TikTok."

(Proteger la integridad de las elecciones es una de las responsabilidades más importantes de TikTok.)

Según The Straits Times, en 2027 se celebrarán elecciones en varios países europeos, entre ellos Italia, Francia y Grecia, y desde agosto la Unión Europea aplica normas de transparencia para la IA que exigen etiquetar el contenido generado por IA, como los deepfakes. La propia TikTok lleva años pidiendo a los creadores que etiqueten las imágenes, el audio y los vídeos de IA realistas.

La herramienta de consulta busca tapar los huecos del etiquetado. En 2024, TikTok fue la primera plataforma de vídeo en adoptar las Credenciales de Contenido de C2PA: el contenido generado con sus herramientas lleva automáticamente esa “constancia de origen”, que otras plataformas pueden leer y reconocer. Pero cuando el vídeo se descarga, se reenvía o se edita, la credencial suele perderse. Por eso la nueva herramienta, además de leer C2PA, detecta VeraDura, una marca de agua invisible desarrollada por TikTok que, según la empresa, es más duradera y más difícil de eliminar. El acceso a la consulta está en el Centro de Transparencia de TikTok.

TikTok también dio a conocer algunas cifras: hasta ahora la plataforma ha etiquetado más de 5.000 millones de vídeos generados por IA; más del 99 % del contenido infractor se retiró antes de que alguien lo denunciara; el espacio de alfabetización en IA dentro de la aplicación, lanzado en julio, ha ayudado a más de 4 millones de personas a aprender a reconocer contenido de IA; y herramientas como “No me interesa” y los filtros de palabras clave las usaron más de 79 millones de personas en la Unión Europea en el primer semestre de este año.

Frente a YouTube, medio paso tarde

En este tipo de detección de imagen, YouTube se adelantó. Este año abrió una herramienta similar a celebridades y agencias, sin exigirles tener un canal de YouTube, y hacia mayo la extendió a todo el mundo. La versión de TikTok no empezó a probarse hasta julio, con un pequeño grupo de creadores en Estados Unidos, y entonces no se dio calendario de ampliación; cuatro meses después pasa a desplegarse gradualmente a escala global.

Ambas empresas siguen un planteamiento parecido: exigen primero verificar la identidad real, después comparan rostros, y la plataforma tramita las denuncias. La diferencia está en el alcance: YouTube abrió la puerta incluso a famosos que no están en la plataforma, mientras que TikTok habla esta vez de “creadores y figuras públicas elegibles”; cuántos seguidores hacen falta o qué tipos de cuenta cumplen los requisitos no se detalla en las explicaciones públicas fuera del Centro de Ayuda.

La herramienta de consulta tiene un alcance aún más limitado. Solo reconoce el contenido creado con las funciones de IA del propio TikTok, gracias a las credenciales y marcas de agua que la empresa incorpora. Los vídeos deepfake generados con modelos de otras empresas y luego subidos a TikTok no los detecta; esa parte sigue dependiendo de la moderación de la plataforma y de las denuncias de los usuarios.

Hay preguntas que la empresa aún no ha respondido: la precisión y la tasa de falsos positivos de la comparación facial, en cuántos países arrancará el primer lote y cuánto tarda en resolverse una denuncia. Faltando algo más de un año para las elecciones europeas, esas son las cifras que más querrán ver los reguladores y los equipos de campaña.

Fuentes: Sala de prensa oficial de TikTok (proceso de las dos herramientas, público destinatario y estadísticas de la plataforma), The Straits Times, AFP, CocoLoop, Tubefilter (alcance de la detección de imagen en YouTube), Android Headlines; aclaración del Centro de Ayuda de TikTok sobre la no conservación de los documentos de identidad verificados.