Berita dan Analisis Efisiensi Model Besar

2 artikel terverifikasi tentang Efisiensi Model Besar, produk, dan perkembangan industri.

AI di perangkat 2026-08-19

Liquid AI Pulihkan Akurasi Q4_0 ke 97% Lewat Distilasi

Metode pelatihan QAD dari Liquid AI memulihkan akurasi checkpoint Q4_0 hingga 96-97% dari BF16, sambil tetap mempertahankan keunggulan kecepatannya di CPU Arm.

#Open source #Optimasi Inferensi AI #Efisiensi Model Besar

Google 2026-04-20

Google TurboQuant Kompres Memori Inferensi AI 6 Kali Lipat

TurboQuant dari Google Research mengompres memori KV Cache untuk model bahasa besar setidaknya 6x tanpa perlu pelatihan ulang atau kehilangan akurasi, mencapai akselerasi hingga 8x pada GPU H100.

#Optimasi Inferensi AI #Efisiensi Model Besar #Terobosan Teknologi