Modelo de decisão da Cloudflare agora vê vídeo e ouve áudio

No dia 9 de outubro, a Cloudflare lançou o Clef-omni, que acrescenta entrada de áudio e de vídeo completo à sua linha de “modelos de decisão”. Os pesos estão no Hugging Face sob licença Apache 2.0, e a versão hospedada roda no Workers AI. Só se passaram oito dias desde o lançamento do Clef e do Clef-flash.

O trabalho de um modelo de decisão é bem restrito: quem o chama fornece um estado e um conjunto de perguntas predefinidas, cada uma com algumas opções, e o modelo atribui uma probabilidade a cada opção. Ele não gera texto livre e não é preciso interpretar a saída. Entre os casos de uso internos citados pela Cloudflare estão identificar e fechar issues de spam em repositórios de documentação no GitHub, filtrar phishing em bibliotecas de plugins, varrer dados em busca de informações pessoais, como números de documentos de identidade, e classificar domínios maliciosos.

Quatro tipos de entrada em uma só chamada

O Clef anterior lidava com texto, imagens e quadros extraídos de vídeos. O Clef-omni aceita diretamente áudio WAV e MP3 e vídeo MP4 e WebM, processando a trilha sonora e a imagem de forma sincronizada. Ele também não transcreve nem descreve: executa apenas uma passada de prefill e pontua todas as modalidades e todas as opções de uma vez.

As latências medianas divulgadas pela Cloudflare: cerca de 130 milissegundos para texto puro, cerca de 150 milissegundos para imagens, algumas centenas de milissegundos para áudio e cerca de 1,5 segundo para um vídeo de 21 segundos com som.

A base é o Qwen3-Omni-30B-A3B-Instruct, da Alibaba, um modelo de mistura de especialistas. A Cloudflare manteve a parte de compreensão, descartou os componentes de síntese de voz, congelou o backbone, ajustou com LoRA e acrescentou uma pequena cabeça de pontuação baseada em Transformer. O model card informa que o modelo roda em bfloat16 em uma única H200, e o backbone exige cerca de 64 GB de memória de vídeo.

As notas não superam a geração anterior em tudo

Na tabela comparativa da própria Cloudflare, o Clef-omni fica atrás do Clef, somente visual, na maioria dos itens. Em recuperação de ferramentas, o ToolRet, são 66,6 contra 69,19; em decidir quando chamar uma ferramenta, o When2Call, 63,3 contra 72,37; em detecção de phishing, o PhishNChips, 73,2 contra 79,60. A maior diferença está nos comandos para eletrodomésticos: 69,3 contra 82,95. Na classificação de intenções bancárias BANKING77 e no reconhecimento de intenções CLINC150+OOS, ele fica ligeiramente à frente do Clef.

Tomando como referência o Jev, modelo de decisão da TypeSafe, o Clef-omni fica mais de 17 pontos atrás no When2Call e 15 pontos à frente no BANKING77. Todas essas notas foram divulgadas pela própria Cloudflare, e o blog não detalha a avaliação.

Dois ajustes no mesmo dia

O preço hospedado do Clef-flash caiu de 0,09 dólar para 0,038 dólar por milhão de tokens de entrada; segundo a Cloudflare, já é mais barato que o Jev. O custo disso é que a janela de contexto da versão hospedada foi reduzida de 64k para 24k, sob o argumento de que apenas 0,24% das requisições passam de 24k. Os pesos abertos no Hugging Face não são afetados e continuam treinados com 256k. O preço do Clef não mudou; depois que a Cloudflare migrou a inferência para o SGLang, a latência mediana ficou de 1,7 a 2,0 vezes mais rápida.

Mais uma base Qwen

Três dias antes, o Decision-1, da Microsoft, também um modelo de decisão voltado a perguntas de múltipla escolha, foi lançado sobre o Qwen 9B. Nesta semana, duas empresas americanas apresentaram produtos do mesmo tipo, ambas escolhendo modelos abertos da Alibaba como base. Para desenvolvedores na China, os pesos da linha Clef podem ser baixados diretamente, a licença é permissiva e a API se declara compatível com o Jev, de modo que montar por conta própria um serviço de moderação, roteamento ou triagem de tickets não é uma barreira alta. Quanto ao acesso ao serviço hospedado Workers AI a partir da China, a Cloudflare não deu nenhuma explicação específica; antes de usar em produção, é preciso testar por conta própria.

Fontes: blog oficial da Cloudflare, model card no Hugging Face (licença, modelo base e requisitos de memória de vídeo), CocoLoop, ITHome, RuntimeWire; notas de benchmark e preços conforme divulgados pela própria Cloudflare.