Lokale KI-Modelle auf dem neuen Mac Studio und Mac Mini - Speicher, Verbund und RDMA verstehen

Ziel

Am 25. August 2026 hat Apple einen neuen Mac Studio vorgestellt — mit den Chips M5 Max und M5 Ultra und mit bis zu 512 Gigabyte Arbeitsspeicher. In der Ankündigung fällt ein Kürzel, das bisher nur in Rechenzentren eine Rolle spielte: RDMA.

Nach diesem Artikel können Sie einschätzen, was das für ein kleines oder mittleres Unternehmen bedeutet. Sie wissen, warum der Arbeitsspeicher über die Größe eines KI-Modells entscheidet, warum die Speicherbandbreite über das Tempo entscheidet, was RDMA ist und wann sich ein Verbund aus mehreren Rechnern lohnt — und wann eben nicht.

Voraussetzungen

Sie brauchen kein technisches Vorwissen. Hilfreich ist, wenn Sie schon einmal mit einem KI-Assistenten gearbeitet haben. Alle Fachbegriffe werden bei ihrer ersten Nennung erklärt.

Als roter Faden begleitet Sie ein erfundener Betrieb: das Konstruktionsbüro Lindner, vierzig Mitarbeitende, seit zwanzig Jahren Prüfberichte, Gutachten und Zeichnungen im Archiv. Herr Lindner möchte diese Unterlagen durchsuchbar machen und Berichtsentwürfe vorformulieren lassen. Nur eben nicht bei einem Anbieter irgendwo im Ausland, denn in den Berichten stehen Konstruktionsdetails seiner Kunden.

Schritt für Schritt

1. Was „lokal betreiben“ überhaupt bedeutet

Ein Sprachmodell ist ein Programm, das gelernt hat, Text sinnvoll fortzusetzen. Genau das steckt hinter Assistenten wie ChatGPT. Üblicherweise läuft ein solches Modell nicht auf Ihrem Schreibtisch, sondern in einem Rechenzentrum des Anbieters: Sie schicken Ihre Frage dorthin, die Antwort kommt zurück.

Lokal betreiben heißt: Das Modell liegt als Datei auf einem Rechner in Ihren Räumen und wird dort auch gerechnet. Ihre Texte verlassen das Haus nicht. Es gibt keine Abrechnung je Anfrage und keine Abhängigkeit davon, ob ein Anbieter sein Modell morgen abschaltet oder verändert.

Der Preis dafür: Sie stellen die Hardware selbst. Und die Frage, welche Hardware reicht, hat eine überraschend einfache Hauptantwort — den Arbeitsspeicher.

2. Der Arbeitsspeicher entscheidet über die Modellgröße

Ein Modell besteht aus Parametern. Stellen Sie sich Millionen winziger Stellschrauben vor, deren Einstellung beim Training festgelegt wurde. Die Größe eines Modells wird in Milliarden Parametern angegeben: ein „70-Milliarden-Modell“, ein „235-Milliarden-Modell“.

Jeder Parameter braucht Platz. Wie viel, hängt von der Quantisierung ab — der Frage, wie fein jede einzelne Stellschraube gespeichert wird. Je gröber, desto sparsamer, und ab einem gewissen Punkt merkt man den Unterschied in der Antwortqualität kaum noch:

Speicherung je Parameter	Platzbedarf	Üblich für
16 Bit (2 Byte)	2 GB je Milliarde	Forschung, höchste Genauigkeit
8 Bit (1 Byte)	1 GB je Milliarde	guter Kompromiss
4 Bit (0,5 Byte)	0,5 GB je Milliarde	der Normalfall im Eigenbetrieb

Die Faustregel lautet also: Parameter in Milliarden mal Byte je Parameter. Ein 70-Milliarden-Modell in der Vier-Bit-Fassung braucht rund 35 bis 40 Gigabyte. Dazu kommt Platz für das Kontextfenster — den Arbeitsspeicher des Gesprächs, in dem Ihre Frage und die bisherigen Antworten stehen. Rechnen Sie großzügig zehn bis zwanzig Prozent Aufschlag ein.

Entscheidend ist die Härte dieser Grenze: Entweder das Modell passt vollständig in den Arbeitsspeicher — oder es muss ständig von der Festplatte nachgeladen werden und wird dabei um Größenordnungen langsamer. Ein bisschen zu wenig Speicher gibt es nicht.

Hier liegt der Grund, warum Apple-Rechner in diesem Feld eine Sonderrolle spielen. In einem üblichen PC hat die Grafikkarte ihren eigenen, meist knappen Speicher, und nur der zählt für KI-Rechnungen. Apple-Chips haben stattdessen Unified Memory: Prozessor und Grafikeinheit teilen sich denselben Arbeitsspeicher. Wer 512 Gigabyte bestellt, hat auch 512 Gigabyte für das Modell. Eine PC-Grafikkarte der Spitzenklasse bringt derzeit 32 Gigabyte mit.

3. Was Apple angekündigt hat

	M5 Max	M5 Ultra
Prozessorkerne	18	bis 36
Grafikkerne	bis 40	bis 80
Arbeitsspeicher	bis 128 GB	bis 512 GB
Speicherbandbreite	bis 614 GB/s	1,2 TB/s
Thunderbolt-5-Anschlüsse	4	6
Preis (Deutschland)	ab 2.999 €	ab 6.599 €

Weitere Eckdaten: Die Grafikkerne beider Chips haben erstmals eigene Rechenwerke für KI-Aufgaben eingebaut (Apple nennt sie „Neural Accelerators“); beim Ultra ist das eine Premiere. Apple gibt für den M5 Ultra bis zur 4,3-fachen KI-Rechenleistung gegenüber dem Vorgänger M3 Ultra an. Thunderbolt 5 — die schnelle Kabelverbindung an der Rückseite — schafft laut Apple bis zu 120 Gigabit pro Sekunde. Ausgeliefert wird ab dem 22. September 2026; die Variante mit 512 Gigabyte folgt Ende Oktober.

Die Preise steigen mit dem Speicher deutlich: Der M5 Max mit vollen 128 Gigabyte kostet 5.859 Euro, der M5 Ultra mit 256 Gigabyte 10.999 Euro.

Hinweis: Die Zahlen stammen aus Apples Ankündigung und aus der deutschen Fachpresse vom 25. August 2026. Unabhängige Messungen lagen zum Zeitpunkt dieses Artikels noch nicht vor. Behandeln Sie Herstellerangaben zur KI-Leistung als Richtwert, nicht als Zusage.

4. Die Bandbreite entscheidet über das Tempo

Speicherplatz sagt, ob ein Modell läuft. Wie schnell es antwortet, sagt die Speicherbandbreite — wie viele Daten der Chip pro Sekunde aus dem Arbeitsspeicher lesen kann.

Der Grund ist verblüffend einfach: Für jeden einzelnen Wortbaustein, den das Modell erzeugt, muss es einmal seinen gesamten Datenbestand durchlesen. Fachleute nennen diese Wortbausteine Token; ein deutsches Wort besteht meist aus zwei bis drei davon.

Ein 40-Gigabyte-Modell auf einem M5 Ultra mit 1,2 Terabyte pro Sekunde käme also rechnerisch auf rund 30 Token pro Sekunde. In der Praxis erreicht man davon etwa die Hälfte bis zwei Drittel. Das ist ungefähr Lesegeschwindigkeit — für Herrn Lindners Berichtsentwürfe völlig ausreichend.

Und es erklärt, warum eine Spitzen-Grafikkarte mit 1,8 Terabyte pro Sekunde zwar schneller ist, aber nichts nützt, wenn das Modell nicht in ihre 32 Gigabyte passt.

5. Wenn ein Rechner nicht reicht: der Verbund

Herr Lindner stellt fest, dass ihm ein Modell mit 235 Milliarden Parametern deutlich bessere Zusammenfassungen liefert als das kleine. Es passt gerade so in einen M5 Max — aber gemeinsam mit dem Kontextfenster und zwei gleichzeitigen Nutzern wird es eng.

Die Alternative: mehrere Rechner zusammenschalten. Dafür gibt es zwei grundverschiedene Wege.

Der Fließband-Weg. Das Modell wird in Abschnitte zerlegt. Rechner eins bearbeitet die ersten Abschnitte, reicht das Zwischenergebnis an Rechner zwei weiter und so fort. Das ist einfach — aber es rechnet immer nur einer, die anderen warten. Vier Rechner sind so kaum schneller als einer.

Der Teamarbeits-Weg. Alle Rechner arbeiten gleichzeitig an jedem Abschnitt, jeder übernimmt ein Stück der Rechnung. Das wäre viermal so schnell — nur müssen sich die vier nach jedem Teilschritt abstimmen und Zwischenergebnisse austauschen. Bei einem großen Modell sind das viele Hundert Abstimmungen für ein einziges Token.

Und genau hier lag bisher das Problem: Jede Abstimmung über ein normales Netzwerk kostet Wartezeit. Bei vielen Hundert Abstimmungen je Token summiert sich das so stark, dass der Teamarbeits-Weg langsamer war als das Fließband.

6. RDMA — der direkte Griff in den Speicher des Nachbarn

RDMA steht für Remote Direct Memory Access, zu Deutsch etwa „direkter Zugriff auf entfernten Speicher“. Gesprochen buchstabiert man es: R-D-M-A.

Der Unterschied lässt sich mit einer Bürometapher fassen. Normalerweise schickt Rechner A ein Datenpaket wie einen Brief: Er gibt es an sein Betriebssystem, das verpackt es, reicht es an die Netzwerkschicht, die schickt es los; auf der Gegenseite wird ausgepackt, zwischengelagert und schließlich zugestellt. Jeder dieser Schritte kostet Zeit.

Mit RDMA gibt es stattdessen eine Durchreiche: Rechner A schreibt sein Ergebnis unmittelbar in den Arbeitsspeicher von Rechner B, ohne dass ein Betriebssystem dazwischen etwas anfassen muss.

Der Effekt ist drastisch. Die Entwickler der Cluster-Software exo geben an, dass die Wartezeit zwischen zwei Macs von rund 300 Mikrosekunden auf rund 3 Mikrosekunden fällt — ein Hundertstel. Eine Mikrosekunde ist ein Millionstel einer Sekunde.

Zwei Dinge sind wichtig, um die Neuigkeit richtig einzuordnen:

1. RDMA ist nicht neu. In Rechenzentren wird die Technik seit Jahren eingesetzt, dort über spezielle Netzwerkkarten für viele Tausend Euro.
2. Neu ist, dass sie über ein handelsübliches Kabel läuft. Apple hat RDMA mit macOS 26.2 über Thunderbolt 5 freigeschaltet. Damit reicht ein Kabel für rund achtzig Euro, um zwei Macs so eng zu koppeln, wie es bisher Spezialhardware brauchte.

7. Was in der Praxis gemessen wurde

Zwei unabhängige Testberichte aus dem Frühjahr und Sommer 2026 haben Verbünde aus je vier Mac Studio der Vorgängergeneration (M3 Ultra) vermessen. Die Zahlen zeigen die Größenordnung:

Modell	Ein Rechner	Vier Rechner mit RDMA
Llama 3.3, 70 Mrd. Parameter (16 Bit)	5 Token/s	16 Token/s
Qwen3 Coder, 480 Mrd. Parameter	27 Token/s	40 Token/s
Kimi K2, 1 Billion Parameter	passt nicht	28 bis 30 Token/s

Die Entwickler von exo geben den Zugewinn mit dem 1,8-Fachen bei zwei Geräten und dem 3,2-Fachen bei vier Geräten an. Apple selbst nennt für vier neue Mac Studio „bis zu dreimal schnellere KI-Inferenz“ — also dieselbe Größenordnung.

Bemerkenswert ist die letzte Zeile: Ein Modell mit einer Billion Parametern passt auf keinen Einzelrechner, im Verbund aber schon — und antwortet dort in Gesprächsgeschwindigkeit.

8. Wo die Haken sind

Ein Verbund ist kein Gerät, das man auspackt und einschaltet. Was Sie einplanen sollten:

1. Nur Thunderbolt 5. Ältere Macs mit Thunderbolt 4 können RDMA nicht nachrüsten. Das ist eine Eigenschaft der Hardware, kein Software-Update.
2. Direkte Verkabelung. Es gibt keine Verteiler für Thunderbolt 5. Jeder Rechner muss mit jedem anderen direkt verkabelt werden — bei vier Geräten sind das sechs Kabel. Deshalb ist bei vier Geräten derzeit Schluss.
3. Einmalige Freischaltung. RDMA muss auf jedem Gerät im Wiederherstellungsmodus eingeschaltet werden, und alle Geräte müssen exakt dieselbe macOS-Version haben.
4. Junge Software. Die verbreitete Verbund-Software exo ist quelloffen und kostenlos, aber sehr neu. Berichte über Abstürze unter Volllast sind die Regel, nicht die Ausnahme.
5. Kein Ausfallschutz. Fällt ein Rechner aus, steht der ganze Verbund. Redundanz gibt es bisher nicht.
6. Betrieb kostet Zeit. Modelle aktualisieren, Ergebnisse prüfen, Zugriffe regeln — das ist eine Aufgabe, die jemand übernehmen muss.

Achtung: Ein lokal betriebenes Modell ist nicht automatisch datenschutzkonform. Es entfällt nur die Übermittlung an einen Dritten. Zweckbindung, Löschkonzept, Protokollierung und die Pflichten aus dem EU AI Act gelten unverändert.

9. Lohnt sich das für Ihren Betrieb?

Ein Mac Studio mit M5 Ultra und 256 Gigabyte kostet rund 11.000 Euro. Als Vergleich: Ein vergleichbar leistungsfähiger Cloud-Zugang kostet je nach Nutzung einige Hundert Euro im Monat. Rein rechnerisch amortisiert sich die Anschaffung also nach etwa zwei bis drei Jahren — vorausgesetzt, das Gerät ist auch ausgelastet.

Dafür spricht ein eigener Rechner:

• Ihre Unterlagen sind vertraulich, und die Übermittlung an Dritte ist heikel oder vertraglich ausgeschlossen.
• Sie haben gleichmäßige Dauerlast, etwa nächtliche Auswertungen ganzer Archivbestände.
• Sie wollen unabhängig davon sein, dass ein Anbieter Preise ändert oder ein Modell abkündigt.
• Sie brauchen Betrieb ohne Internetverbindung.

Dagegen spricht:

• Ihre Nutzung ist stoßweise und gering — dann ist die Cloud schlicht billiger.
• Sie brauchen immer das jeweils leistungsfähigste Modell am Markt; die stärksten Modelle sind nicht frei verfügbar.
• Sie haben niemanden, der den Betrieb übernimmt.

Für das Konstruktionsbüro Lindner fällt die Entscheidung so aus: ein Mac Studio mit M5 Ultra und 256 Gigabyte, betrieben mit einem 235-Milliarden-Modell. Ein Verbund wäre technisch reizvoll, aber die vierzig Mitarbeitenden erzeugen keine Last, die vier Geräte rechtfertigt. Herr Lindner behält den Verbund als Ausbaustufe im Hinterkopf — genau dafür sind die sechs Thunderbolt-Anschlüsse da.

Zusammenfassung

• Der Arbeitsspeicher entscheidet, welches Modell läuft. Faustregel: Parameter in Milliarden mal Byte je Parameter, plus zehn bis zwanzig Prozent für das Kontextfenster. Apples Unified Memory macht 512 Gigabyte für KI nutzbar, wo eine PC-Grafikkarte bei 32 Gigabyte endet.
• Die Speicherbandbreite entscheidet über das Tempo. Token pro Sekunde ≈ Bandbreite geteilt durch Modellgröße. Der M5 Ultra liefert 1,2 Terabyte pro Sekunde, der M5 Max 614 Gigabyte pro Sekunde.
• RDMA macht den Verbund erst sinnvoll. Der direkte Zugriff auf den Speicher des Nachbarrechners senkt die Wartezeit von rund 300 auf rund 3 Mikrosekunden. Erst dadurch bringen vier Rechner rund die dreifache Geschwindigkeit statt kaum mehr als einer.
• Für die meisten Betriebe reicht ein Gerät. Der Verbund lohnt sich, wenn ein einzelnes Modell nicht mehr in einen Rechner passt — nicht, um ein passendes Modell schneller zu machen.
• Rechnen Sie den Betrieb mit ein. Hardware ist der einmalige Teil; Pflege, Prüfung und Zuständigkeit sind der dauerhafte.