Nvidia DGX H100: "Ich habe Sapphire Rapids als CPU gewählt"

Die Frage, ob das DGX H100 mit AMD- oder Intel-Prozessor ausgestattet werden soll, ist entschieden: Hopper wird mit Xeons kombiniert.

Artikel veröffentlicht am 8. Juni 2022, 10:40 Uhr, Marc Sauter

Ein DGX H100 mit Hopper (Bild: Nvidia)

Nvidia-CEO Jensen Huang selbst hat bekanntgegeben, welche Ausstattung für das DGX H100 verwendet wird: "Ich habe Sapphire Rapids als CPU für Hopper gewählt", sagte er im Audio Webcast (via The Register) auf der Bofa Securities 2022 Global Technology Conference. Huang fügte hinzu, dass die Intel-Xeon-SP-v4-Prozessoren über eine exzellente Singlethread-Performance verfügen.

Das DGX ist Nvidias bekanntestes Komplettsystem, das acht Beschleunigerkarten für künstliche Intelligenz kombiniert. Die DGX-H100-Variante nutzt die neuen Hopper H100, diese erreichen bis zu 4 Teraops (INT8) respektive 4 Teraflops (FP8). Die vorherige Version, das DGX A100, wurde noch mit zwei 64-kernigen Epyc 7742 (Rome) ausgeliefert.

Einzig DGX wurde noch nicht auf ARM umgestellt

Vor einigen Wochen sagte Nvidia, dass zwei Referenzplattformen für das DGX H100 existieren: Eine mit AMDs Epyc 7004 (Genoa) und eine mit Intels Xeon SP v4 (Sapphire Rapids), wobei die Wahl schlussendlich auf Letztere gefallen ist. Gründe nannte Huang abseits der Singlethread-Performance nicht, es gibt sie aber. Nach aktuellem Stand erscheint Sapphire Rapids vor Genoa, eventuell passen die CPUs besser in Nvidias Zeitfenster.

Bei den Referenzdesigns unterscheidet Nvidia zwischen CGX (Cloud), DGX (Deep Learning), HGX (High Density) und OVX (Omniverse). Spannend ist dabei, dass für alle außer DGX bereits solche mit dem selbst entwickelten und ARM-basiertem Grace-Prozessor geplant sind. Einzig bei DGX setzt Nvidia auch zukünftig auf x86-Chips, wie die Entscheidung zugunsten Sapphire Rapids zeigt.

Das DGX H100 dürfte zwei der Xeons mit 2 TByte DDR5 nutzen, hinzu kommen acht H100-Beschleuniger, zwei Bluefield-3-DPUs und vier NV-Switches. Für das Betriebssystem gibt es zwei 1,92-TByte-NVMe-M.2-SSDs, für Daten zusätzlich acht 3,84-TByte-NVMe-U.2-SSDs.