El modelo de decisión de Cloudflare ya ve vídeo y oye audio

El 9 de octubre, Cloudflare lanzó Clef-omni, que añade entrada de audio y de vídeo completo a su serie de «modelos de decisión». Los pesos ya están en Hugging Face con licencia Apache 2.0 y la versión alojada funciona sobre Workers AI. Solo han pasado ocho días desde el estreno de Clef y Clef-flash.

El trabajo de un modelo de decisión es muy acotado: quien lo invoca aporta un estado y un conjunto de preguntas predefinidas, cada una con varias opciones, y el modelo asigna una probabilidad a cada opción. No genera texto libre ni hace falta analizar su salida. Entre los casos de uso internos que cita Cloudflare figuran identificar y cerrar issues de spam en repositorios de documentación de GitHub, filtrar phishing en bibliotecas de plugins, rastrear datos en busca de información personal como números de documento de identidad y determinar si un dominio es malicioso.

Cuatro tipos de entrada en una sola llamada

El Clef anterior procesaba texto, imágenes y fotogramas extraídos de vídeo. Clef-omni acepta directamente audio WAV y MP3 y vídeo MP4 y WebM, y procesa de forma sincronizada la pista de sonido y la imagen. Tampoco transcribe ni describe: solo ejecuta una pasada de prefill y puntúa todas las modalidades y todas las opciones a la vez.

Las latencias medianas publicadas por Cloudflare: unos 130 milisegundos para texto, unos 150 milisegundos para imágenes, unos cientos de milisegundos para audio y unos 1,5 segundos para un vídeo de 21 segundos con sonido.

La base es Qwen3-Omni-30B-A3B-Instruct, de Alibaba, un modelo de mezcla de expertos. Cloudflare conservó la parte de comprensión, descartó los componentes de síntesis de voz, congeló la red principal, la ajustó con LoRA y añadió una pequeña cabeza de puntuación basada en un Transformer. La ficha del modelo indica que funciona en bfloat16 sobre una sola H200 y que la red principal necesita unos 64 GB de memoria de vídeo.

Las puntuaciones no superan a la generación anterior en todo

En la tabla comparativa de la propia Cloudflare, Clef-omni queda por debajo del Clef solo visual en la mayoría de los apartados. En recuperación de herramientas, ToolRet, es 66,6 frente a 69,19; en decidir cuándo llamar a una herramienta, When2Call, 63,3 frente a 72,37; en detección de phishing, PhishNChips, 73,2 frente a 79,60. La mayor diferencia está en las órdenes para electrodomésticos: 69,3 frente a 82,95. En la clasificación de intenciones bancarias BANKING77 y en el reconocimiento de intenciones CLINC150+OOS queda ligeramente por encima de Clef.

Tomando como referencia Jev, el modelo de decisión de TypeSafe, Clef-omni se queda más de 17 puntos por detrás en When2Call y 15 puntos por delante en BANKING77. Todas estas puntuaciones las ha publicado Cloudflare por su cuenta y el blog no detalla la evaluación.

Dos ajustes el mismo día

El precio alojado de Clef-flash baja de 0,09 dólares a 0,038 dólares por millón de tokens de entrada; según Cloudflare, ya es más barato que Jev. La contrapartida es que la ventana de contexto de la versión alojada se recorta de 64k a 24k, con el argumento de que solo el 0,24 % de las solicitudes supera los 24k. Los pesos abiertos de Hugging Face no se ven afectados y siguen entrenados con 256k. El precio de Clef no cambia; tras migrar la inferencia a SGLang, Cloudflare logra una latencia mediana entre 1,7 y 2,0 veces más rápida.

Otra base Qwen

Hace tres días, Decision-1 de Microsoft, también un modelo de decisión especializado en preguntas de opción múltiple, salió con Qwen 9B como base. Esta semana, dos empresas estadounidenses han lanzado productos del mismo tipo, y ambas eligieron modelos abiertos de Alibaba como cimiento. Para los desarrolladores en China, los pesos de la serie Clef se pueden descargar directamente, la licencia es permisiva y la API se declara compatible con Jev, así que montar un servicio propio de moderación, enrutamiento o clasificación de tickets no supone una barrera alta. Sobre el acceso al servicio alojado de Workers AI desde China, Cloudflare no ha dado ninguna explicación específica; antes de usarlo en producción conviene probarlo por cuenta propia.

Fuentes: blog oficial de Cloudflare, ficha del modelo en Hugging Face (licencia, modelo base y requisitos de memoria de vídeo), CocoLoop, ITHome, RuntimeWire; puntuaciones de referencia y precios según los datos publicados por la propia Cloudflare.