6X MacMini Cluster

Überblick

Sechs Mac mini M4 Pro bilden einen einsatzfertigen Inferenz-Verbund mit 144 GB Unified Memory, 72 CPU- und 96 GPU-Kernen. Der Cluster wird fertig eingerichtet übergeben: Betriebssystem, Modell-Hosts und Bedienoberfläche sind installiert und im Lastbetrieb getestet. Gedacht für Unternehmen, die Sprachmodelle im eigenen Haus betreiben wollen, ohne dafür einen Serverraum zu bauen.

Nutzen

• Ihre Daten bleiben im Unternehmen — keine Übertragung an externe Modellanbieter, keine nutzungsabhängige Abrechnung.
• Bürotauglich: luftgekühlt, leise, rund 0,9 kW Anschlussleistung für den gesamten Verbund, kein Rack erforderlich.
• Sechs eigenständige Knoten: mehrere Modelle gleichzeitig betreiben oder Anfragen auf mehrere Knoten verteilen.
• Sofort nutzbar — die Basis-Einrichtung ist im Preis enthalten, der Cluster wird betriebsbereit übergeben.

Technische Daten

Was die Basis-Einrichtung umfasst

Über die Gateway-Anbindung sprechen Ihre Anwendungen den Verbund über eine einzige OpenAI-kompatible Schnittstelle an — mit Schlüsselverwaltung, Modell-Routing und Nutzungsprotokoll je Team.

Für wen geeignet

• Kanzleien, Praxen und Beratungen, die vertrauliche Unterlagen nicht an Cloud-Dienste geben dürfen
• Teams von etwa 10 bis 50 Personen mit einem internen Assistenten auf eigenen Dokumenten
• Entwicklungsteams, die Modelle und Agenten lokal erproben, bevor etwas in den Betrieb geht
• Standorte ohne Serverraum: Der Verbund läuft im Büro an einem normalen Stromkreis

Gut zu wissen

Hinweis: Apple Silicon ist stark bei der Textausgabe, verarbeitet sehr lange Eingaben aber spürbar langsamer als eine NVIDIA-GPU. Für Chat, Dokumentenfragen und Agenten fällt das nicht ins Gewicht; für die Stapelverarbeitung großer Dokumentenmengen ist eine GPU-Workstation die bessere Wahl.

• 24 GB Unified Memory je Knoten tragen Modelle bis etwa 20 Mrd. Parameter in 4-Bit-Quantisierung komfortabel. Größere Modelle lassen sich über Thunderbolt 5 auf mehrere Knoten verteilen; der robuste Normalbetrieb ist jedoch ein Modell je Knoten.
• Training und Feintuning großer Modelle sind nicht das Einsatzfeld dieses Verbunds — dafür braucht es GPU-Workstations mit CUDA.
• Der Cluster lässt sich später um weitere Knoten ergänzen, ohne die bestehende Einrichtung zu ersetzen.