Ant Group y vLLM liberan Humming, una biblioteca de kernels de cuantización
Ant Group y la comunidad vLLM publican como código abierto Humming, una biblioteca de kernels para inferencia cuantizada con compilación más rápida y mayor rendimiento en 8 GPU H20.