Nvidia DGX H100: "Ich habe Sapphire Rapids als CPU gewählt"

Die Frage, ob das DGX H100 mit AMD- oder Intel-Prozessor ausgestattet werden soll, ist entschieden: Hopper wird mit Xeons kombiniert.

Artikel veröffentlicht am ,
Ein DGX H100 mit Hopper
Ein DGX H100 mit Hopper (Bild: Nvidia)

Nvidia-CEO Jensen Huang selbst hat bekanntgegeben, welche Ausstattung für das DGX H100 verwendet wird: "Ich habe Sapphire Rapids als CPU für Hopper gewählt", sagte er im Audio Webcast (via The Register) auf der Bofa Securities 2022 Global Technology Conference. Huang fügte hinzu, dass die Intel-Xeon-SP-v4-Prozessoren über eine exzellente Singlethread-Performance verfügen.

Das DGX ist Nvidias bekanntestes Komplettsystem, das acht Beschleunigerkarten für künstliche Intelligenz kombiniert. Die DGX-H100-Variante nutzt die neuen Hopper H100, diese erreichen bis zu 4 Teraops (INT8) respektive 4 Teraflops (FP8). Die vorherige Version, das DGX A100, wurde noch mit zwei 64-kernigen Epyc 7742 (Rome) ausgeliefert.

Einzig DGX wurde noch nicht auf ARM umgestellt

Vor einigen Wochen sagte Nvidia, dass zwei Referenzplattformen für das DGX H100 existieren: Eine mit AMDs Epyc 7004 (Genoa) und eine mit Intels Xeon SP v4 (Sapphire Rapids), wobei die Wahl schlussendlich auf Letztere gefallen ist. Gründe nannte Huang abseits der Singlethread-Performance nicht, es gibt sie aber. Nach aktuellem Stand erscheint Sapphire Rapids vor Genoa, eventuell passen die CPUs besser in Nvidias Zeitfenster.

Bei den Referenzdesigns unterscheidet Nvidia zwischen CGX (Cloud), DGX (Deep Learning), HGX (High Density) und OVX (Omniverse). Spannend ist dabei, dass für alle außer DGX bereits solche mit dem selbst entwickelten und ARM-basiertem Grace-Prozessor geplant sind. Einzig bei DGX setzt Nvidia auch zukünftig auf x86-Chips, wie die Entscheidung zugunsten Sapphire Rapids zeigt.

Das DGX H100 dürfte zwei der Xeons mit 2 TByte DDR5 nutzen, hinzu kommen acht H100-Beschleuniger, zwei Bluefield-3-DPUs und vier NV-Switches. Für das Betriebssystem gibt es zwei 1,92-TByte-NVMe-M.2-SSDs, für Daten zusätzlich acht 3,84-TByte-NVMe-U.2-SSDs.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
25 Jahre Grim Fandango
Toller Trip durch das Reich der Toten

Morbide und lustig: Grim Fandango war kein Erfolg und gilt trotzdem als Klassiker. Golem.de hat es erneut durchgespielt - und war wieder begeistert.
Von Andreas Altenheimer

25 Jahre Grim Fandango: Toller Trip durch das Reich der Toten
Artikel
  1. Star Wars: Holiday Special jetzt in 4K mit 60 fps
    Star Wars
    Holiday Special jetzt in 4K mit 60 fps

    Eine bessere Story bekommt der legendär schlechte Film dadurch leider nicht. Bis heute lieben ihn einige Fans aber vor allem wegen seiner Absurdität.

  2. Autonomes Fahren: Im Märzen der Bauer den Roboter einspannt
    Autonomes Fahren
    Im Märzen der Bauer den Roboter einspannt

    Landmaschinen ohne Fahrer, Traktoren, die mit Gesten gesteuert werden - autonome Systeme sollen in der Landwirtschaft gleich mehrere Probleme lösen.
    Ein Bericht von Werner Pluta

  3. Lohn und Gehalt: OpenAI-Entwickler verdienen bis zu 800.000 US-Dollar im Jahr
    Lohn und Gehalt
    OpenAI-Entwickler verdienen bis zu 800.000 US-Dollar im Jahr

    Die Firma hinter Chat-GPT zahlt im Vergleich zu Unternehmen wie Nvidia besonders gut. Erfahrene Forscher und Entwickler auf dem Gebiet sind Mangelware.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    • Daily Deals • Crucial P5 Plus 2 TB mit Kühlkörper 114,99€ • Crucial Pro 32 GB DDR5-5600 79,99€ • Logitech G915 TKL LIGHTSYNC RGB 125,11€ • Anthem PC 0,99€ • Wochenendknaller bei MediaMarkt • MindStar: Patriot Viper VENOM 64 GB DDR5-6000 159€, XFX RX 7900 XT Speedster MERC 310 Black 789€ [Werbung]
    •  /