A Edge0, empresa de modelos para dispositivos locais, abriu em 12 de novembro o código do Edge0-145B e do Edge0-120B, junto com um framework de inferência unificado e ferramentas de implantação. A empresa afirma que o 145B é o primeiro modelo de código aberto para dispositivos locais a chegar a 145 bilhões de parâmetros; o alvo é o laptop pessoal, sem necessidade de servidor.
No lançamento há suporte a macOS, Windows e Linux, cobrindo os chips Apple da série M e plataformas da Nvidia como RTX Spark, RTX 4090 e RTX 5090. Os pesos estão no Hugging Face e o framework de inferência no GitHub; há ainda um aplicativo de desktop sem necessidade de conta e sem limite de uso, cujas funções principais funcionam offline.
Benchmarks comparam com modelos de nuvem da classe “Flash”
Entre os resultados divulgados pela Edge0, o modelo obtém 64,6 no DeepSWE 1.1, contra 58,7 do Qwen3.8-Flash-Next e 54,4 do DeepSeek-V4-Flash-0731. No Terminal-Bench 2.1 marca 86,52, acima dos 83,3 e 82,7 desses dois. No GPQA-Diamond são 90,4, um pouco abaixo dos 90,8 do DeepSeek-V4-Flash-0731; no HLE, 35,4, também ligeiramente abaixo dos 35,9 do Qwen3.8-Flash-Next.
Há uma premissa por trás dessas notas: os resultados de Edge0, Qwen, DeepSeek e Claude vêm todos de avaliações internas da Edge0, e o ambiente de teste completo e as instruções de reprodução serão publicados junto com o relatório técnico. O Claude da tabela comparativa é o Opus 4.6 (Max), de uma geração mais antiga; os modelos principais atuais já foram atualizados há tempo. Até que haja testes independentes, a tabela deve ser lida apenas como números informados pelo fabricante.
Em relação ao modelo para celular lançado antes pela própria empresa, o salto é grande. O Edge0-35B, lançado em setembro, usa cerca de 2,5 GB de memória no iPhone 18 Pro Max e passa de 37 tokens por segundo; o 145B tem cerca de quatro vezes mais parâmetros e foi levado ao laptop. O modelo de base da Apple para dispositivos locais tem cerca de 3B, e o Gemini Nano do Google tem duas versões, de 1,8B e 3,25B; a Edge0 cita esses números para mostrar que os modelos locais costumavam ficar abaixo de 10B.
Como 145 bilhões de parâmetros cabem em 29 GB
Uma conta rápida: com a quantização usual de 4 bits, 145B parâmetros exigiriam cerca de 72 GB só para os pesos, muito acima de 29 GB. A Edge0 apresenta uma solução em quatro camadas.
Na arquitetura, as matrizes grandes são compartilhadas. A cada 64 especialistas, duas matrizes grandes são usadas em comum, e cada especialista guarda apenas um pequeno conjunto de parâmetros que descreve a diferença. Com isso cai o volume de pesos armazenados e movimentados, sem reduzir o número de especialistas. A cada passo de inferência são ativados só cerca de 10B parâmetros.
O treinamento já segue a estrutura para dispositivos locais. O modelo foi treinado desde o início numa arquitetura para dispositivos locais, sem seguir o caminho de “treinar primeiro um grande modelo de nuvem e depois comprimir e podar”.
O carregamento é um pipeline de armazenamento em três níveis. Os “especialistas quentes”, mais usados, ficam na memória de vídeo; um acervo de cerca de 40 GB de especialistas fica na memória do sistema e é trazido para a memória de vídeo sob demanda; cerca de 48 GB de dados do vocabulário ficam no SSD e são lidos conforme o uso. Leitura e cálculo se sobrepõem, evitando esperas em série.
No escalonamento, CPU e GPU trabalham juntas. A GPU calcula os especialistas em cache e a CPU processa o restante em paralelo; somada à decodificação especulativa, que verifica vários tokens candidatos de uma vez, a leitura dos pesos é diluída em mais saída.
Há um ponto que o blog não esclarece: como o pico de memória de 29 GB se concilia com o acervo de cerca de 40 GB de especialistas na memória do sistema, e se a contagem considera apenas a memória de vídeo. O texto não explica. No próprio gráfico comparativo da Edge0 aparece um laptop de 48 GB; quem quiser rodar localmente deve se preparar com 48 GB de memória unificada.
Demonstrações e números da empresa
A Edge0 mostrou várias demonstrações de agentes locais: produzir um vídeo explicativo em uma hora, montar uma cena de Manhattan no Blender, escrever um programa para um drone desviar de obstáculos e achar uma mochila vermelha, e ir do layout de placa no KiCad até uma animação de montagem no UE5. Todos são testes internos da empresa; a economia de mão de obra e de custos de tokens na nuvem também é uma conversão feita por ela mesma.
A empresa afirma ainda que suas quatro linhas lançaram 200 modelos em um ano, que os modelos de código aberto passaram de 15 milhões de downloads em três meses e que, até outubro, havia mais de 110 mil organizações clientes. Esses números de escala vêm hoje apenas da própria empresa e não podem ser verificados.
Fontes: blog oficial de lançamento da Edge0, página do modelo no Hugging Face, CocoLoop, documentação do framework de inferência da Edge0 no GitHub; todos os resultados de benchmark seguem a avaliação interna da Edge0, e os 29 GB são o pico de memória medido pelo fabricante.