Apple hat mit dem M6 und dem M5 Ultra zwei neue Chips vorgestellt, in deren offizieller Ankündigung explizit von "performance and AI compute" die Rede ist. Der M6 kommt im Mac mini zum Einsatz, der M5 Ultra im Mac Studio; beide sind ab sofort vorbestellbar, die Auslieferung beginnt am 22. September.
Der M6 ist Apples erster 2-nm-Chip und zugleich eines der ersten in Serie gefertigten Produkte auf TSMCs 2-nm-Prozess. Die Spezifikationen: 12-Kern-CPU (2 sogenannte Super-Cores, 4 Performance- und 6 Effizienzkerne), 12-Kern-GPU, doppelte 16-Kern-Neural-Engine, bis zu 32 GB Unified Memory bei 170 GB/s Bandbreite. Apple zufolge liefert er die weltweit schnellste Single-Thread-Leistung, ist im Multi-Thread-Betrieb 1,2-mal schneller als der M5, die KI-Rechenleistung der GPU steigt gegenüber dem M5 um rund 30 Prozent und gegenüber dem M1 um mehr als das Achtfache, die Neural Engine ist doppelt so leistungsfähig wie beim Vorgänger.
Beim M5 Ultra setzt Apple auf schiere Größe: Über die neue UltraFusion-Generation werden zwei bereits aus je zwei Chips bestehende M5-Max-Einheiten verbunden – erstmals in der M-Serie entsteht so eine Vier-Chip-Architektur.
| M6 | M5 Ultra | |
|---|---|---|
| CPU | 12 Kerne | bis zu 36 Kerne |
| GPU | 12 Kerne | bis zu 80 Kerne |
| Neural Engine | 2× 16 Kerne | 32 Kerne |
| Unified Memory | bis zu 32 GB | bis zu 512 GB |
| Speicherbandbreite | 170 GB/s | 1,2 TB/s |
Die GPU des M5 Ultra ist erstmals mit Neural Accelerators ausgestattet, wodurch die KI-Rechenleistung gegenüber dem M3 Ultra um das 4,5-Fache und gegenüber dem M1 Ultra um mehr als das Sechsfache steigt; die Bandbreite von 1,2 TB/s liegt 50 Prozent über der des M3 Ultra. Apple beschreibt es wörtlich so: "M5 Ultra features a massive GPU, now with Neural Accelerators, and more unified memory bandwidth, pushing the boundaries of what a desktop can do."
Was mit 512 GB möglich wird
Der Sinn von Unified Memory zeigt sich am deutlichsten bei lokaler Inferenz: CPU und GPU teilen sich denselben Speicherpool, Modellgewichte müssen nicht zwischen VRAM und Arbeitsspeicher hin- und hergeschoben werden. Bei dedizierten Grafikkarten setzt die VRAM-Menge die harte Grenze; beim Mac Studio liegt diese Grenze jetzt bei 512 GB.
Eine grobe Rechnung: Bei den Open-Source-MoE-Modellen mit 600 bis 700 Milliarden Parametern liegt die Gewichtsgröße nach 4-Bit-Quantisierung ungefähr bei 350 bis 400 GB. Rechnet man KV-Cache und Laufzeit-Overhead dazu, reichen 512 GB gerade aus, um ein solches Modell komplett auf einer einzigen Maschine unterzubringen. Ein Rechenzentrums-Setup mit vergleichbarer Speicherkapazität bräuchte dafür mehrere über Interconnects verbundene Karten – bei Kosten und Stromverbrauch eine völlig andere Größenordnung.
Die Bandbreite bleibt der Schwachpunkt. 1,2 TB/s ist für einen Desktop-Rechner ein hoher Wert, liegt aber immer noch spürbar unter dem, was HBM-Lösungen in Rechenzentren bieten – bei Inferenz mit langem Kontext wird die Tokenrate dadurch deutlich gebremst. Was man dafür bekommt, ist etwas anderes: eine Maschine, die einfach an der Steckdose hängt, lokale Modelle ausführt und deren Daten das Haus nicht verlassen.
Der Schritt auf 2 Nanometer
Mit dem M6 sichert sich Apple erneut die Erstnutzung eines neuen Fertigungsprozesses – beim Tempo bleibt das Unternehmen also vorne. Der Vorteil des neuen Prozesses zeigt sich eher bei der Energieeffizienz als bei der Spitzentaktrate: Von den 12 Kernen sind sechs Effizienzkerne, dazu kommt eine Bandbreite von 170 GB/s (nur 10 Prozent mehr als beim M5). Der M6 ist also klar auf niedrigen Stromverbrauch ausgelegt, während der Zuwachs an KI-Rechenleistung vor allem aus dem Umbau von GPU und Neural Engine stammt.
Im Branchenkontext derselben Woche betrachtet, laufen beide Entwicklungen in dieselbe Richtung. Im Rechenzentrum geht es darum, wie viel Inferenz sich aus jedem Kilowatt herausholen lässt, auf dem Desktop darum, wie groß ein Modell sein darf, das noch in eine einzelne Maschine passt. Die Kosten der Inferenz werden gerade von beiden Seiten gleichzeitig nach unten gedrückt – nur eben auf unterschiedliche Weise.
Was den M6 im Mac mini mit seiner Obergrenze von 32 GB betrifft: Die Größe der Modelle, die sich damit lokal betreiben lässt, ist begrenzt – dieser Chip zielt offensichtlich nicht auf diese Zielgruppe ab.
Quellen: offizielle Ankündigung von Apple Newsroom, MacRumors, CocoLoop, Phoronix, 9to5Mac; Kernzahlen, Speicherkapazitäten, Bandbreiten und Vergleichsfaktoren wurden anhand der offiziellen Ankündigung geprüft, die Größenangaben zu quantisierten Modellen sind grobe Schätzungen auf Basis öffentlicher Parameterzahlen.