O modelo de um trilhão de parâmetros da Mistral, o Mistral Large 4, teve seus pesos abertos. A Hugging Face publicou um texto de apresentação em 29 de outubro: o modelo chegou em duas precisões, FP8 e NVFP4, roda no mesmo dia em Transformers, vLLM e llama.cpp, e a Unsloth lançou ao mesmo tempo versões quantizadas em GGUF. Quando apresentou a prévia de pesquisa em 6 de outubro, a Mistral prometeu abrir o modelo até o fim do mês, e agora cumpriu o prazo.
Estrutura e licença
O repositório se chama Mistral-Large-4-1T-A52B. Segundo a Hugging Face, o modelo tem 72 camadas e usa uma arquitetura de mistura de especialistas (MoE) com 128 especialistas; cada token passa por 4 especialistas roteados mais 1 especialista compartilhado. A atenção usa multi-head latent attention (MLA) e índice esparso, com cada consulta olhando no máximo 2048 posições de chave. A parte visual é um codificador Pixtral de 1,6B, com entrada de texto e imagem e saída em texto.
Os parâmetros ativos têm hoje dois números: o texto do blog fala em cerca de 49 bilhões, enquanto o nome do repositório indica 52 bilhões; vale o que a Mistral esclarecer depois. A janela de contexto é anunciada em 1 milhão de tokens, mas as configurações reais de implantação ficam abaixo disso: os exemplos de vLLM e Inference Endpoints usam 131K, e a versão quantizada em 2 bits do llama.cpp chega a 800 mil.
A licença se chama Mistral Ecosystem Open-Weight License, é uma adaptação da MIT e restringe empacotar o modelo diretamente como modelo como serviço para vender a terceiros. Uso próprio, ajuste fino e implantação privada não são afetados; provedores de nuvem que pretendam revender uma API com ele precisam ler bem os termos antes.
Notas concentradas em segurança e programação
Entre os resultados listados pela Hugging Face, os de segurança são os que mais se destacam: 93% nas 40 questões de competição de segurança do Cybench, 82% em reprodução e correção de vulnerabilidades, 93,3% em resistência a ataques no Lakera B3, e o índice de cibersegurança da Artificial Analysis o coloca entre os cinco melhores do mundo. Em agentes de programação, o DeepSWE v1.1 marca 61,7%, o SWE-Atlas-QnA 59,4% e o Terminal-Bench 4 28,3%. No índice de inteligência geral, fica em quinto entre os modelos de pesos abertos.
“Mistral Large 4 is particularly strong for cybersecurity, coding agents, and multimodality.”
(O Mistral Large 4 é especialmente forte em cibersegurança, agentes de programação e multimodalidade.)
São todos números da própria empresa e de parceiros; quanto a comunidade conseguirá reproduzir depois de pôr as mãos nos pesos ainda levará tempo para saber.
Do Large 3 aos pesos abertos
Olhando a linha da Mistral em conjunto, a mudança não é pequena. Pelos dados que a Artificial Analysis apresentou no lançamento da prévia, o Large 3 tinha apenas 9 pontos no índice de inteligência, e a prévia do Large 4 chegou a 38. Na fase de prévia, o modelo só estava disponível pela API da própria Mistral, com prioridade para desenvolvedores, responsáveis por segurança e órgãos governamentais; na ocasião, a Mistral também admitiu que ainda ficava atrás dos modelos fechados de ponta em áreas como programação. Os 28,3% do Terminal-Bench 4 divulgados agora ficam bem distantes dos mais de 90% em segurança, o que combina com essa autoavaliação.
Com os pesos liberados, as opções de implantação se multiplicaram. O Hugging Face Inference Endpoints usa 8 GPUs H200, o exemplo do Dell Enterprise Hub usa 4 B300, e o exemplo de ajuste fino com TRL exige um nó com 8 placas B300. A quantização de 2 bits do llama.cpp cabe em um Apple Silicon Ultra com 512 GB de memória unificada; as demais quantizações precisam rodar distribuídas em várias GPUs, e o teste oficial foi feito em 4 placas RTX 6000 Pro.
Na cobertura da prévia, estimamos que, em precisão de 8 bits, só armazenar os pesos exigiria cerca de 1 TB de memória de vídeo. Agora, o NVFP4 e a versão de 2 bits baixaram essa barreira, mas, para a maioria das equipes, um servidor Blackwell de 8 GPUs continua sendo a configuração de partida. O preço oficial na API da Mistral não é mencionado nesta apresentação.
Fontes: blog oficial da Hugging Face, blog do vLLM, CocoLoop, Artificial Analysis; o cartão do modelo na Hugging Face foi usado para conferir estrutura, comprimento de contexto e nome da licença.