DeepSeek buka DSpark untuk inferensi lebih cepat
DeepSeek dan Universitas Peking membuka DSpark, kerangka inferensi yang menaikkan kecepatan generasi 60% hingga 85% dan throughput satu GPU hingga 6,6 kali.
Berita dan Analisis inferensi AI
3 artikel terverifikasi tentang inferensi AI, produk, dan perkembangan industri.
Xiaomi MiMo klaim 1.000 token per detik di GPU standar
Xiaomi MiMo klaim 1.000 token per detik di GPU standar. Artikel ini merangkum pengumuman, konteks strategis, dan risiko praktis bagi pengguna atau perusahaan terdampak.
Tensormesh Raup $20 Juta untuk Kurangi Komputasi Berulang AI
Tensormesh mengamankan pendanaan $20 juta dari AMD Ventures, NVentures, CoreWeave, dan lainnya untuk mengkomersialkan platform KV cache yang mengurangi pemborosan GPU dalam inferensi AI.