Mercury 3, modelo de difusão, passa de 1.000 tokens por segundo
A Inception lançou o Mercury 3, LLM de difusão com 1068 tokens/s em GPUs Nvidia, contexto de 1 milhão de tokens e entrada a 0,20 dólar por milhão de tokens.
Notícias e análises sobre Inception
1 artigos verificados sobre Inception, produtos e movimentos do setor.