Liquid AI rilis LFM3, model 1,7B ungguli 9B di skor rata-rata

Consumer AI illustration: a person on a bench with chat bubbles around the phone

Liquid AI merilis keluarga model LFM3, terdiri atas enam model kelas 2B yang seluruhnya bercabang dari satu basis 1,7B: masing-masing satu untuk teks, visi, audio, dan omnimodal, ditambah dua model pengambil keputusan yang dikhususkan dari versi visi dan versi omni. Bobotnya tersedia di Hugging Face dengan label open weights, dan model juga bisa diakses lewat LFM Playground serta API milik Liquid sendiri.

Dari sisi arsitektur, LFM3 melanjutkan kebiasaan Liquid untuk tidak memakai Transformer murni:

"LFM3 combines three operators: gated short convolutions, sliding-window attention (SWA), and global attention."

(LFM3 menggabungkan tiga operator: konvolusi pendek bergerbang, sliding-window attention, dan global attention.)

Konvolusi pendek dan sliding window menangani sebagian besar lapisan, sedangkan global attention hanya ditempatkan di sedikit lapisan. Itulah yang membuat pemakaian memori pada konteks panjang bisa ditekan.

Membedah kartu skor

Model teks LFM3-1.7B meraih skor benchmark rata-rata 49,37. Di antara model pembanding yang dipakai Liquid, generasi sebelumnya LFM2.5-2.6B mendapat 31,55, MiniCPM5-2B mendapat 39,19, dan Qwen3.5-9B, yang parameternya lebih dari lima kali lipat, mendapat 47,24.

Hasil per butir sangat bervariasi. Kepatuhan instruksi pada IFEval mencapai 96,66 dan pemanggilan alat pada BFCL V4 mencapai 71,39, keduanya tinggi, dan kedua kemampuan inilah yang paling sering dipakai agen di perangkat. Sebaliknya, konteks panjang dan pengetahuan sulit menjadi titik lemahnya: RULER 128K hanya 65,56 sementara Qwen3.5-9B 87,11, dan GPQA Diamond 63,37 berbanding 80,40. Artinya, keunggulan skor rata-rata terutama ditopang soal-soal instruksi dan alat, sedangkan pada tugas yang padat pengetahuan model ini tetap model 2B.

Nama lisensi yang persis tidak tertulis di bagian blog resmi yang dapat dilihat, sehingga syarat penggunaan komersial harus merujuk pada model card.

Menghitung throughput

Angka di sisi perangkat menjadi jualan utama kali ini. Dengan pengaturan llama.cpp, kuantisasi Q4_0, dan konteks 32K, Liquid menyatakan kecepatan dekode LFM3 di tiga perangkat adalah 1,8 hingga 2,8 kali model tercepat berikutnya, dengan penggunaan memori terendah.

Di sisi server juga ada satu angka: pada satu NVIDIA B300 dengan SGLang, BF16, dan 1024 permintaan bersamaan, model menghasilkan sekitar 3,6 miliar token per hari. Hitungan kasarnya, 3,6 miliar dibagi 86.400 detik kira-kira 42 ribu token per detik, dan jika dibagi ke 1024 aliran bersamaan, tiap aliran sekitar 40 token per detik, jauh lebih cepat daripada kecepatan orang membaca. Dengan patokan itu, satu kartu dapat melayani lebih dari seribu percakapan sekaligus tanpa tersendat, yang lebih bermakna bagi tim yang memakai model kecil untuk klasifikasi, ekstraksi, dan routing dalam jumlah besar.

Angka-angka ini hasil pengukuran sendiri oleh Liquid dan belum direproduksi pihak ketiga. Panjang prompt dan panjang keluaran yang dipakai dalam pengujian juga tidak dicantumkan, sehingga pada beban kerja lain hasilnya bisa sangat berbeda.

Dibuat untuk fine-tuning

Nilai jual yang berulang kali ditekankan Liquid kali ini adalah "setiap model bisa di-fine-tune pada satu GPU". Karena keenam model berbagi satu basis, tim bisa lebih dulu menyetel kemampuan bisnis pada versi teks, lalu memindahkannya ke cabang visi atau audio. Liquid juga menyediakan dokumentasi untuk menjalankan model secara lokal dan untuk fine-tuning.

Untuk ponsel, sistem di kendaraan, dan pengendali industri, yaitu skenario yang sulit tersambung ke jaringan, ukuran 1GB, konteks 256K, dan kemampuan disetel pada satu kartu adalah posisi yang ingin direbut LFM3. Berhasil atau tidaknya bergantung pada hasil fine-tuning komunitas di tugas nyata, bukan hanya kartu skor ini.

Sumber: blog resmi Liquid AI, CocoLoop, halaman model Hugging Face; skor benchmark, kelipatan kecepatan dekode di perangkat, dan throughput harian B300 semuanya mengacu pada pengukuran Liquid sendiri, sedangkan throughput per detik adalah hitungan kasar redaksi berdasarkan angka harian tersebut.