Stand: 26. August 2026.
Apple hat am 25. August den neuen Mac Studio mit M5 Max und M5 Ultra vorgestellt und verspricht bis zu 4,3-fache KI-Spitzenleistung gegenüber dem M3 Ultra. Wer lokale Sprachmodelle betreibt oder die Anschaffung plant, stellt die naheliegende Frage: Arbeitet damit endlich die Neural Engine mit, der KI-Chip, der seit Jahren in jedem Apple-Prozessor steckt?
Die kurze Antwort: nein. Ollama, MLX, llama.cpp und LM Studio rechnen auch auf dem M5 Ultra auf der GPU. Die Neural Engine bleibt beim Betrieb eines lokalen Sprachmodells ungenutzt, und das wird sich so schnell nicht ändern. Die längere Antwort erklärt, woher Apples 4,3 wirklich kommen und worauf man beim Kauf schauen sollte. Diese Einordnung fehlt in den meisten Berichten zur Vorstellung.
Was Apple vorgestellt hat
Der M5 Max bietet 18 CPU-Kerne, bis zu 40 GPU-Kerne, bis zu 128 GB gemeinsamen Speicher und 614 GB/s Speicherbandbreite. Der M5 Ultra verbindet zwei Max-Chips: bis zu 36 CPU-Kerne, 80 GPU-Kerne, bis zu 512 GB Speicher und 1,2 TB/s Bandbreite, rund die Hälfte mehr als beim M3 Ultra. Bestellbar seit dem 25. August, ausgeliefert wird ab dem 22. September; die Konfiguration mit 512 GB folgt im Oktober. In der Eurozone startet der M5 Max bei 3.029 Euro, der M5 Ultra bei 6.649 Euro.
Für lokale KI ist eine Fußnote der eigentliche Kern der Ankündigung: Der M5 Ultra ist der erste Ultra-Chip mit Neural Accelerators in jedem GPU-Kern. Um zu verstehen, warum das wichtiger ist als jede TOPS-Zahl, muss man zwei Dinge auseinanderhalten, die Apples Marketing unter einem Begriff verkauft.
Zwei verschiedene Stücke Silizium
Die Neural Engine ist ein eigener Block neben CPU und GPU, 16 Kerne, im iPhone seit 2017, im Mac seit dem M1. Sie ist auf feste, vorhersagbare Rechenmuster ausgelegt, wie sie Bild-, Sprach- und Embedding-Modelle haben, und sie ist dabei extrem sparsam. Erreichbar ist sie ausschließlich über Apples Core-ML-Schicht.
Die Neural Accelerators sind etwas anderes: Matrix-Recheneinheiten, die seit der M5-Generation in jedem einzelnen GPU-Kern stecken, vergleichbar mit den Tensor-Kernen einer Nvidia-Karte. Sie sind über Metal direkt ansprechbar, also genau über den Weg, den die LLM-Laufzeiten ohnehin benutzen. Apples MLX-Framework nutzt sie seit Ende 2025.
Wenn Apple von 4,3-facher KI-Leistung spricht, meint das die GPU mit ihren neuen Accelerators. Die Neural Engine hat daran keinen Anteil.
Warum die LLM-Laufzeiten die Neural Engine ignorieren
Drei Gründe, und keiner davon ist Nachlässigkeit der Entwickler.
Erstens der Zugang: Der einzige Weg zur Neural Engine führt über Core ML. Ein Modell muss dafür konvertiert werden, verliert dabei die flexiblen Eingabelängen und muss mit den Quantisierungsformaten auskommen, die Core ML vorsieht. Ollama und llama.cpp bauen auf einem offenen Modellformat und Metal auf, dieser Unterbau lässt sich nicht nebenbei auf Core ML umziehen.
Zweitens die Arbeitslast: Das Generieren von Antworten, Token für Token, hängt nicht an der Rechenleistung, sondern an der Speicherbandbreite. Bei jedem einzelnen Token müssen alle Modellgewichte einmal durch den Speicher. Neural Engine und GPU teilen sich dieselbe Bandbreite des gemeinsamen Speichers, also kann die Neural Engine hier prinzipiell nicht schneller sein. Ihr Vorteil ist Energieeffizienz, nicht Tempo, und der zählt im Akku-Betrieb eines iPhones mehr als in einem Mac Studio an der Steckdose.
Drittens die Formate: Die Neural Engine will feste Tensor-Formen. Ein Chat mit wachsendem Kontext ist das Gegenteil davon.
Dass es trotzdem geht, zeigt der Entwickler Alvaro Videla, der den kompletten Weg in einem frei lesbaren Buch dokumentiert hat, The Apple Neural Engine Inference Book: Konvertierung aus GGUF, INT8 als sichere Basis, Zerlegung des Modells in Teilstücke von höchstens etwa 250 MB, Verwaltung des KV-Cache über Core MLs Zustandsmechanik. Es ist die gründlichste öffentliche Dokumentation dieses Wegs, und gerade deshalb auch die ehrlichste Antwort auf die Frage, warum ihn im Alltag niemand geht: Jeder dieser Schritte ist Handarbeit pro Modell.
Ganz brachliegen tut der Chip übrigens nicht. Diktat, Fotoanalyse und Apples eigenes On-Device-Modell mit rund 3 Milliarden Parametern laufen genau dort, ebenso Spracherkennung wie WhisperKit. Die Neural Engine wird täglich genutzt, nur eben nicht für den Chat mit einem großen Sprachmodell. Apples Antwort auf diese Lücke war nicht, die Neural Engine zu öffnen, sondern die Matrix-Einheiten dorthin zu verlegen, wo die LLM-Software ohnehin rechnet: in die GPU.
Wo die neue Leistung wirklich ankommt
Die Neural Accelerators beschleunigen vor allem die Prompt-Verarbeitung, also das Einlesen von Kontext, bevor das erste Token der Antwort erscheint. Apple nennt bis zu 4-fache LLM-Verarbeitung gegenüber dem M3 Ultra und für den M5 Max bis zu 10,7-fache Prompt-Verarbeitung gegenüber dem M1 Max. Das sind Herstellerangaben, die üblichen Vorbehalte gelten, wir haben sie am Beispiel Rapid-MLX durchdekliniert. Die Richtung stimmt aber mit der Architektur überein: Prompt-Verarbeitung ist rechengebunden, genau da helfen Matrix-Einheiten.
Praktisch heißt das: Wer lange Dokumente einliest, RAG über Firmenunterlagen betreibt oder einem Coding-Assistenten viel Quelltext als Kontext gibt, profitiert am deutlichsten. Das Tempo der eigentlichen Antwort, Token pro Sekunde, verbessert sich dagegen ungefähr im Maß der Speicherbandbreite, also um die Hälfte gegenüber dem M3 Ultra, nicht um das Vierfache.
Was das für die Kaufentscheidung heißt
Für den Betrieb lokaler Sprachmodelle zählt die Reihenfolge: erstens Speichergröße, denn das Modell muss vollständig hineinpassen. Zweitens Speicherbandbreite, denn sie bestimmt das Antworttempo. Drittens GPU-Rechenleistung für die Prompt-Verarbeitung. Die TOPS-Angabe einer NPU, egal ob bei Apple, AMD oder Qualcomm, sagt über LLM-Tauglichkeit dagegen fast nichts aus, solange keine Laufzeit sie nutzt. Wer Hardware nach diesem Wert auswählt, kauft am Bedarf vorbei.
Ein laufender M3 Ultra wird durch die Ankündigung nicht schlechter; die Software entscheidet dort weiter über das Tempo. Wer dagegen jetzt neu beschafft und mit großen Modellen oder langen Kontexten plant, bekommt mit dem M5 Ultra erstmals 1,2 TB/s und die Accelerators in einem Gerät, das bis 512 GB ausgebaut werden kann.
Ob sich ein solches Gerät für Ihren Fall überhaupt rechnet, gemessen an Vertraulichkeit, Anfragevolumen und den Alternativen, ist die Frage vor der Bestellung, nicht danach. Wir gehen sie in einem Pilotprojekt mit Ihren eigenen Aufgaben durch, gemessen statt geschätzt. Einen Überblick, was lokale KI im Mittelstand leistet, finden Sie hier.
Häufige Fragen
Nutzen Ollama, LM Studio oder MLX die Neural Engine?
Nein. Alle verbreiteten LLM-Laufzeiten auf dem Mac rechnen auf der GPU über Metal. Die Neural Engine ist nur über Apples Core-ML-Schicht erreichbar, verlangt feste Tensor-Formen und eigene Modellkonvertierung, und beim Token-Generieren brächte sie ohnehin kein Tempo, weil dieser Schritt an der Speicherbandbreite hängt, nicht an der Rechenleistung. Während ein lokales Sprachmodell antwortet, liegt die Neural Engine still.
Was ist der Unterschied zwischen Neural Engine und Neural Accelerators?
Die Neural Engine ist ein separater Block mit 16 Kernen, den es seit 2017 im iPhone und seit dem M1 im Mac gibt. Die Neural Accelerators sind neu seit der M5-Generation und stecken in jedem einzelnen GPU-Kern. Sie sind über Metal und damit über MLX direkt erreichbar, ohne Core-ML-Umweg. Apples Werbewert von 4,3-facher KI-Leistung kommt aus diesen GPU-Einheiten, nicht aus der Neural Engine.
Was bringt der Mac Studio M5 Ultra konkret für lokale Sprachmodelle?
Drei Dinge, in dieser Reihenfolge: bis 512 GB gemeinsamer Speicher, damit große Modelle überhaupt geladen werden können. 1,2 TB/s Speicherbandbreite, rund die Hälfte mehr als beim M3 Ultra, was direkt in Token pro Sekunde umrechnet. Und erstmals Neural Accelerators in einem Ultra-Chip, die vor allem die Prompt-Verarbeitung beschleunigen, also das Einlesen langer Dokumente und Kontexte.
Kann man ein LLM überhaupt auf der Neural Engine ausführen?
Ja, aber nur mit erheblichem Aufwand über Core ML: Konvertierung aus GGUF, INT8-Quantisierung, Zerlegung in Teilstücke von höchstens etwa 250 MB und eigene Verwaltung des KV-Cache. Alvaro Videla dokumentiert den kompletten Weg in seinem ANE-Buch. Apple selbst führt das eigene On-Device-Modell mit rund 3 Milliarden Parametern so aus. Für den Chat-Betrieb größerer Modelle lohnt der Weg nicht.