Clustering: Apple macht aus vielen Macs einen KI-Superrechner
Apple geht den enormen Speicher- und Rechenbedarf für KI-Anwendungen mit einem überraschenden Ansatz an. Das kommende MacOS Tahoe 26.2 bietet eine Funktion, mit der Anwender mehrere Macs über Thunderbolt 5 zu einem Cluster vernetzen können – speziell zugeschnitten auf KI-Entwicklungsarbeit, wie Engadget berichtet(öffnet im neuen Fenster) .
Die Neuerung richtet sich an Entwickler und Forscher, die substanzielle Rechenleistung für das lokale Ausführen großer Sprachmodelle benötigen. So können vier via Cluster verbundene Mac Studio gemeinsam auf bis zu 2 TByte Unified Memory zugreifen. Das ist nach Angaben von Apple ausreichend, um das Kimi-K2-Thinking-Modell mit einer Billion Parametern zu betreiben.
Der Ansatz unterscheidet sich grundlegend von früheren Mac-Clustering-Versuchen, die an Bandbreitenbeschränkungen scheiterten. Ältere Implementierungen nutzten oft Hubs, die Geschwindigkeiten von nur 10 GB/s boten. Die neue Lösung schöpft die volle 80-GB/s-Kapazität von Thunderbolt 5 aus. Das ist zugleich der Nachteil des Systems: Es erfordert moderne Hardware.
Hardwareanforderungen und Energieverbrauch
Die Clustering-Funktion ist mit den Modellen M4 Pro Mac Mini, M4 Pro/Max Macbook Pro und Mac Studio mit Thunderbolt 5 kompatibel. Anwender benötigen lediglich Standard-Thunderbolt-5-Kabel zur Verbindung kompatibler Macs, ohne spezialisierte Netzwerkhardware oder Adapter.
Apple demonstrierte einen Cluster aus vier Mac Studio, der das Kimi-K2-Thinking-Modell ausführte. Das Set-up verbrauchte im Betrieb weniger als 500 Watt. Zum Vergleich: Nvidias RTX-5090-GPU ist mit 575 Watt spezifiziert, wobei die tatsächliche Leistungsaufnahme unter Last darüber liegen kann.
Das 14-Zoll-Macbook Pro mit M5-Chip, derzeit der einzige verfügbare M5-Mac, unterstützt ausschließlich Thunderbolt 4. Damit kann der neueste Apple-Silicon-Prozessor die Clustering-Funktion nicht nutzen.
MLX-Integration und Neural-Accelerator-Zugriff
Das MacOS-Tahoe-26.2-Update bringt außerdem MLX-Framework-Unterstützung für die Neural Accelerators des M5-Chips. Diese Integration könnte die KI-Inferenz-Performance auf kompatibler Hardware verbessern, wenngleich Tests mit dem M5-Macbook-Pro noch ausstehen.
Apples Open-Source-Projekt MLX findet zunehmend Anklang bei Entwicklern, die mit Machine Learning auf Mac-Hardware arbeiten. Die Fähigkeit des Frameworks, direkt auf Neural Processing Units zuzugreifen, kann die Verarbeitungszeiten reduzieren.
Kostenbetrachtung für die Implementierung
Ein Mac Studio mit 512 GByte Unified Memory mit M3-Ultra-Chip startet bei knapp 12.000 Euro. Auch wenn das viel Geld ist, insbesondere wenn vier Stück verbunden sind: Für so manche Anwendung könnte sich das durchaus lohnen.
Das Veröffentlichungsdatum für MacOS Tahoe 26.2 wurde nicht bekannt gegeben.