Kimi K3.1 Pro libera os pesos, com arquivo de 5,6 TB

Open source illustration: hands joining branches to a shared node tree

Conforme prometido no lançamento de 24 de outubro, a Moonshot AI publicou no Hugging Face os pesos do modelo Kimi K3.1 Pro, segundo reportagem do ITHome de 5 de novembro. O modelo tem 2,8 trilhões de parâmetros no total, ativa cerca de 104 bilhões por inferência e oferece contexto de aproximadamente 1 milhão de tokens.

O tamanho dos arquivos de pesos também chama a atenção: a versão BF16 pesa cerca de 5,6 TB, e, após a quantização INT4, em torno de 1,4 TB.

Os termos da licença são o detalhe que ainda é preciso aguardar. Segundo informações públicas, a geração anterior, o K3, usava uma MIT modificada; as condições do K3.1 Pro ainda não foram verificadas na página oficial. Quem pretende usar o modelo comercialmente deve seguir o arquivo LICENSE do repositório.

O ranking pontua com sessões reais

Os resultados citados junto com os pesos vêm do ranking Agent Arena, da Arena. O K3.1 Pro ficou em primeiro entre os modelos de pesos abertos e em 13.º entre todos os modelos avaliados, liderando entre os modelos abertos nas três categorias: trabalho, programação e conversa.

Esse ranking não usa votação cega em pares. Ele extrai sinais de sessões reais de agentes, como confirmação de tarefas, elogios e reclamações, correções do usuário e erros de Shell, e estima a taxa líquida de melhoria com um método de inferência aleatorizada chamado “rastreamento causal”. A avaliação desta vez cobriu mais de 17.500 sessões de tarefas de longa duração.

IndicadorK3K3.1 Pro
Taxa líquida de melhoria+0,9%+5,1%
Confiabilidade em Bash-4,5%+7,9%
Elogios versus reclamações+1,3%+7,7%

A confiabilidade em Bash passou de negativa a positiva e ainda ficou em primeiro lugar entre os modelos abertos. Isso afeta mais diretamente quem roda tarefas longas: é difícil deixar solto um agente cujos comandos falham em sequência. A taxa de sucesso na confirmação de tarefas, de +3,9%, ficou em quarto entre os modelos abertos, ou seja, o modelo não lidera em tudo.

Frente a frente com dois carros-chefe fechados

A tabela comparativa divulgada pela Moonshot AI traz dezenas de benchmarks, incluindo testes internos; abaixo constam apenas os benchmarks públicos.

BenchmarkK3.1 ProGPT-6 AstraOpus 5.5
Terminal-Bench 4.065,758,266,4
SWE Marathon v1.151,742,546,3
Frontier Finance58,645,056,7
HLE-Full (com ferramentas)70,057,267,7
Program Bench31,550,065,0
Terminal-Bench-Science 0.138,168,163,3
HLE-Diamond39,465,860,9
ExploitBench74,710091,0

Os testes em que o modelo aparece à frente são, em sua maioria, de tarefas com ferramentas e fluxos longos; os que ficam para trás concentram-se em tarefas científicas, raciocínio de alta dificuldade e ataque e defesa cibernéticos. No Terminal-Bench 4.0, a diferença para o Opus 5.5 é de apenas 0,7 ponto, mas no ramo científico desse benchmark ela passa de 25 pontos. A tabela foi divulgada pelo fabricante, e algumas pontuações ainda não foram reproduzidas por terceiros.

A categoria de ataque e defesa merece ser vista à parte. Pesos abertos, depois de baixados, não podem ser recolhidos; os 74,7 pontos no ExploitBench e os 20,7 no ExploitGym ainda ficam distantes dos carros-chefe fechados, e esses dois números servem de referência para o debate de segurança sobre lançamentos abertos.

Baixar e executar são coisas bem diferentes

O ITHome fez questão de alertar na reportagem que há uma grande distância entre “baixável” e “executável localmente”: placas de vídeo de consumo comuns praticamente não conseguem hospedar o modelo.

Uma conta aproximada: colocar toda a versão INT4 de 1,4 TB na memória de vídeo, a 80 GB por placa, exige cerca de 18 GPUs de classe data center, sem contar o custo do cache de contexto. A arquitetura MoE ativa só cerca de 104 bilhões de parâmetros por vez, e algumas camadas de atenção completa foram trocadas por atenção esparsa com portas para reduzir o custo do contexto longo, mas os pesos precisam de algum lugar para ficar.

Por isso, para a maioria das equipes na China, o benefício direto dessa abertura recai sobre alguns provedores de nuvem e de serviços de inferência: eles podem implantar o modelo por conta própria e definir seus próprios preços. A mudança que desenvolvedores comuns tendem a sentir é o aumento de pontos de acesso para chamar o modelo. Se os preços cairão por causa disso, só será possível comparar quando as versões hospedadas por terceiros entrarem no ar.

Fontes: ITHome, CocoLoop, ranking Agent Arena da Arena; as pontuações de benchmark vêm da tabela comparativa divulgada pela Moonshot AI, e a necessidade de memória de vídeo é uma estimativa própria.