Ant Group e vLLM abrem o código da biblioteca de kernels Humming
Ant Group e a comunidade vLLM abrem o código do Humming, biblioteca de kernels para inferência quantizada, com compilação mais rápida e maior vazão em 8 GPUs H20.
5 artigos verificados sobre Ant Group, produtos e movimentos do setor.
Ant Group e a comunidade vLLM abrem o código do Humming, biblioteca de kernels para inferência quantizada, com compilação mais rápida e maior vazão em 8 GPUs H20.
Ant Group libera dois modelos de design de 6B em código aberto: Design gera peças a partir de texto, Layer separa imagens em 2 a 9 camadas; lidera o ranking de UI/UX da Artificial Analysis.
SGLang e Ant Group reduzem a latência por token do Ling-3.0-flash com concorrência 1 em até 77% em quatro GPUs Blackwell.
Ant, Alibaba e a equipe do SGLang mantêm os pesos quantizados na memória da GPU e reduzem o reinício de um modelo de um trilhão de parâmetros de 8,8 minutos para 32 segundos.
A Ant Group liderou uma rodada estratégica de centenas de milhões de yuans na Daimon Robotics, que conecta sensores táteis, dados e um modelo de mundo de classe 10B para Physical AI.