KI-Beschleuniger: AMD bringt MI325X mit 288 GByte Speicher, CDNA 4 ab 2025
Neben Notebook- , Desktop- und Server-Prozessoren hat AMD auf der Computex auch neue Beschleuniger für Rechenzentren angekündigt(öffnet im neuen Fenster) . Wie auch Nvidia will AMD hier künftig jährlich neue Hardware auf den Markt bringen, um mit dem ständig steigenden Leistungsbedarf immer komplexerer KI-Modelle Schritt zu halten. AMD macht zudem deutlich, dass KI der Fokus für die weitere Entwicklung der Beschleuniger ist.
Den Auftakt macht noch im vierten Quartal 2024 die MI325X, die in die bereits existierenden Baseboards für die MI300-Serie passt. AMD nutzt dabei die Hardware der Ende 2023 vorgestellten MI300X weiter . Allerdings wird die mit HBM3e-Speicher kombiniert, was CTO Mark Papermaster bereits durchblicken ließ . Beim Speicher stellt die MI325X Nvidias Blackwell in den Schatten: Satte 288 GByte spendiert AMD der Karte, bei Nvidia gibt es maximal 192 GByte.
AMD dürfte weiterhin acht HBM-Stacks verbauen, allerdings im Gegensatz zu Nvidia 36 statt 24 GByte-Module verwenden. Entsprechende Module mit 12 gestapelten Speicher-Dies stellten Micron(öffnet im neuen Fenster) und Samsung(öffnet im neuen Fenster) im Februar 2024 nahezu zeitgleich vor. Der größere Speicher könnte sich für AMD als vorteilhaft erweisen, da komplexere Modelle auf einen Beschleuniger passen. Allerdings rechnen Nvidias Blackwell-Beschleuniger schneller, der Konkurrent könnte zudem mit größeren Modulen gleichziehen.
Neue Architektur erst 2025
Ein weiterer Unterschied: Nvidia unterstützt mit Blackwell bereits 4-Bit-Datentypen, wodurch sich mehr Modellparameter im Speicher unterbringen lassen. Bei AMD wird es die erst mit CDNA 4 geben, auch mit 6-Bit-Datentypen soll die neue Architektur rechnen können. Die Inferencing-Leistung soll damit bis zu einem Faktor 35 steigen.
Mit CDNA 4 will AMD auch auf 3-nm-Fertigung für die Compute-Dies umsteigen. Auf den Markt bringen will man die neue Architektur 2025 unter dem Namen MI350 - wann genau, bleibt unklar. Allerdings hat AMD bereits angekündigt, dass MI350-Beschleuniger ebenfalls mit den aktuellen Baseboards kompatibel sind. Bestehende Server können also aufgerüstet werden. Beim Speicher hingegen soll es bei 288 GByte HBM3e bleiben. HBM4 ist zwar für 2025 angekündigt , könnte aber für ein im selben Jahr erscheinendes Produkt zu spät kommen. Ein Upgrade für die MI350 erscheint unwahrscheinlich, da HBM4 ein mit 2.048 Bit doppelt so breites Interface nutzen soll wie HBM3e.
Ein Speicher-Upgrade wird es dann sicher mit der für 2026 angekündigten MI400 geben. Hier hat AMD bislang nur durchblicken lassen, dass eine überarbeitete Architektur genutzt werden soll. Die nennt AMD schlicht CDNA Next - da werden Erinnerungen an den Graphics Core Next wach, der bis 2018 die Grundlage von AMDs Grafikkarten bildete.