RTX-Spark-Notebooks ab 16. Oktober, mit lokalem 74B-Modell
Windows-Notebooks mit RTX Spark erscheinen am 16. Oktober mit bis zu 128 GB Unified Memory, dazu das offene Modell Nemotron 3.5 Bolt 74B-A9B mit rund 24 GB.
Lokale KI: News und Analysen
3 geprüfte Beiträge zu Lokale KI, Produkten und Branchenentwicklungen.
Meta öffnet ein lokales 30B-Agentenmodell
Metas Muse Glimmer ist ein 30B-Open-Weight-Modell für lokale Agenten-Workflows, mit Apache-2.0-Lizenz, 24GB/32GB-Zielgeräten, Bildeingabe, Tool-Nutzung und DFlash Speculative Decoding.
AMD integriert 192 GB Speicher in APU, ermöglicht lokale Ausführung von 300B-LLMs
Die neue Ryzen AI Max 400 'Gorgon Halo' APU von AMD unterstützt bis zu 192 GB Unified Memory und ermöglicht so die lokale Inferenz von Large Language Models mit über 300 Milliarden Parametern auf einem einzigen Chip.