A medida que la capacidad de la IA generativa se vuelve más potente, una pregunta se vuelve cada vez más urgente: Este rostro, este texto, este video que estoy viendo, ¿es real o fue creado por IA?
Tanto a nivel técnico como regulatorio, se están haciendo esfuerzos para dar una respuesta, pero el progreso es desigual.
En el ámbito de la investigación: Marcas de agua invisibles
La profesora de ciencias de la computación Yingzhen Yang (Yang Yinzhen) de la Universidad Estatal de Arizona (ASU) publicó este año un sistema de atribución descentralizada – esencialmente un método para ocultar información en contenido generado por IA.
Su modo de operación no es colocar una etiqueta "generado por IA" sobre una imagen, sino modificar directamente los pesos internos del modelo de IA.
Después del procesamiento, cada imagen generada por el modelo lleva una firma oculta única en sus grupos de píxeles, completamente invisible a simple vista, pero legible por un detector. La analogía de Yang es: Como un copo de nieve, cada modelo genera un patrón único.
El sistema puede informar tres cosas:
- Si esta imagen fue generada por IA
- Por qué modelo fue generada
- (En escenarios específicos) Por qué usuario fue solicitada
Esto tiene un gran significado para la trazabilidad de Deepfakes – no solo etiquetado, sino seguimiento.
En el ámbito legislativo: Arizona a la vanguardia
La investigación de Yang y la legislación de Arizona ocurren casi en paralelo: los legisladores locales están impulsando el proyecto de ley SB 1786, que exige que los fabricantes de herramientas de IA integren tecnología de marca de agua invisible en sus productos.
El proyecto ya fue aprobado en el Senado estatal y está esperando votación en la Cámara de Representantes.
El plazo legal de la UE: Agosto de 2026
Una presión mayor proviene de la Unión Europea.
Según el Artículo 50 de la Ley de IA de la UE, la normativa entra en vigor oficialmente en agosto de 2026. A partir de entonces:
- Los sistemas de IA deben informar a los usuarios que están interactuando con IA
- El audio, video e imágenes sintéticos deben etiquetarse como generados por IA
- El contenido Deepfake debe marcarse claramente
Multas por infracción: hasta 15 millones de euros o el 3% de la facturación anual, el que sea mayor.
La UE está actualmente elaborando un código de conducta específico, cuya versión final está prevista para mayo-junio de 2026. Este código estipulará una combinación en múltiples capas de marcas de agua, incrustación de metadatos y marcado invisible – ya que la UE considera que ninguna tecnología única puede resolver este problema de manera confiable por sí sola.
La India también está actuando
La India actualizó sus regulaciones de TI este año, exigiendo que los medios sintéticos incluyan, por defecto, marcas de agua, manifiestos C2PA o protocolos similares. Las grandes plataformas deben recopilar declaraciones de los cargadores (si el contenido es generado por IA o tiene una fuente legítima).
Dónde está la dificultad
La propia tecnología de marca de agua tiene un punto débil fundamental: requiere la cooperación activa del proveedor del modelo.
Para los modelos de código abierto, cualquier persona puede publicar una versión sin el mecanismo de marca de agua. Esta vulnerabilidad actualmente no tiene una buena solución regulatoria.
En otras palabras, las marcas de agua pueden controlar a las empresas que están dispuestas a cooperar, pero no a los actores malintencionados. Esto no significa que las marcas de agua sean inútiles, sino que son una condición necesaria, pero no suficiente.
El desenlace de la autenticidad del contenido probablemente no será una sola tecnología, sino una combinación de: marca de agua + metadatos de origen + verificación de la plataforma + responsabilidad legal. La dirección que está impulsando C2PA (Content Authenticity Initiative) sigue básicamente este pensamiento.
Fuente de referencia: CocoLoop, ASU researcher develops invisible watermark system to detect AI deepfakes (KOLD News); EU AI Act: First Draft Code of Practice on Transparency and Watermarking (Cooley LLP); What the EU's New AI Code of Practice Means for Labeling Deepfakes (TechPolicy.Press)