Liquid AI Percepat Decoding 3,18x dengan Model Draft 300 Juta Parameter
Liquid AI merilis model draft LFM2.5-DSpark di Hugging Face, menambahkan speculative decoding ke tiga model on-device dengan percepatan hingga 3,18x tanpa mengubah output.
Berita dan Analisis inferensi AI
11 artikel terverifikasi tentang inferensi AI, produk, dan perkembangan industri.
Tencent Membuka Kerangka Percepatan Inferensi
Tencent Hunyuan merilis AngelSpec, kerangka terbuka untuk melatih drafter speculative decoding dan menekan biaya inferensi model besar.
DeepSeek buka DSpark untuk inferensi lebih cepat
DeepSeek dan Universitas Peking membuka DSpark, kerangka inferensi yang menaikkan kecepatan generasi 60% hingga 85% dan throughput satu GPU hingga 6,6 kali.
Xiaomi MiMo klaim 1.000 token per detik di GPU standar
Xiaomi MiMo klaim 1.000 token per detik di GPU standar. Artikel ini merangkum pengumuman, konteks strategis, dan risiko praktis bagi pengguna atau perusahaan terdampak.
Tensormesh Raup $20 Juta untuk Kurangi Komputasi Berulang AI
Tensormesh mengamankan pendanaan $20 juta dari AMD Ventures, NVentures, CoreWeave, dan lainnya untuk mengkomersialkan platform KV cache yang mengurangi pemborosan GPU dalam inferensi AI.
MiniMax Rilis Model Penalaran M1
MiniMax meluncurkan seri model penalaran M1, menargetkan o-series dari OpenAI dan R1 dari DeepSeek dengan performa kuat dalam penalaran matematika, pembuatan kode, dan analisis logika. M2.5 meraih skor 80,2% di SWE-bench Verified.
Perbandingan Model Penalaran: o-Series, R1, Gemini — Siapa yang Lebih Baik Berpikir?
Perbandingan komprehensif model penalaran AI utama dari OpenAI, DeepSeek, Google, dan Anthropic, mengkaji pendekatan masing-masing, trade-off antara kedalaman dan kecepatan, serta lanskap open-source vs. closed-source.
GPT-5.2 Tantang Tes Penalaran Umum ARC-AGI
GPT-5.2 dari OpenAI mencetak 72% pada ARC-AGI-1 dan 18% pada ARC-AGI-2, menyoroti kesenjangan antara kinerja LLM saat ini dan kecerdasan umum yang sesungguhnya.
DeepSeek buka sumber model penalaran R1
DeepSeek merilis model penalaran R1 sebagai open source pada Januari 2026, mencapai skor yang sebanding dengan o1 milik OpenAI pada tolok ukur matematika, kode, dan penalaran logis, sementara varian distilasi 32B-nya mengungguli o1-mini di beberapa pengujian.
Google Luncurkan Gemini 2.5 Pro, Andalkan Kemampuan Inferensi
Google merilis Gemini 2.5 Pro, yang secara resmi disebut sebagai model paling cerdas hingga saat ini, dengan skor tertinggi dalam tolok ukur matematika, sains, kode, dan multimodal, meskipun inferensi mendalam menyebabkan waktu respons lebih lambat.
Opus 4.6 Dirilis, Model Bisa Putuskan Sendiri Kapan Harus Berpikir Mendalam
Anthropic merilis Opus 4.6 pada 5 Februari, dengan peningkatan utama berupa Adaptive Thinking yang secara dinamis menyesuaikan kedalaman penalaran berdasarkan kompleksitas pertanyaan, jendela konteks 1 juta token, dan Compaction API yang secara teoretis mendukung percakapan tanpa batas.