Nvidia DGX H100: "Ich habe Sapphire Rapids als CPU gewählt"

Die Frage, ob das DGX H100 mit AMD- oder Intel-Prozessor ausgestattet werden soll, ist entschieden: Hopper wird mit Xeons kombiniert.

Artikel veröffentlicht am ,
Ein DGX H100 mit Hopper
Ein DGX H100 mit Hopper (Bild: Nvidia)

Nvidia-CEO Jensen Huang selbst hat bekanntgegeben, welche Ausstattung für das DGX H100 verwendet wird: "Ich habe Sapphire Rapids als CPU für Hopper gewählt", sagte er im Audio Webcast (via The Register) auf der Bofa Securities 2022 Global Technology Conference. Huang fügte hinzu, dass die Intel-Xeon-SP-v4-Prozessoren über eine exzellente Singlethread-Performance verfügen.

Stellenmarkt
  1. Referent (m/w/d) Prozess- / Organisationsentwicklung
    KÖTTER GmbH & Co. KG Verwaltungsdienstleistungen, Essen
  2. Spezialist Tarifimplementierung (m/w/d)
    Allianz Deutschland AG, Unterföhring
Detailsuche

Das DGX ist Nvidias bekanntestes Komplettsystem, das acht Beschleunigerkarten für künstliche Intelligenz kombiniert. Die DGX-H100-Variante nutzt die neuen Hopper H100, diese erreichen bis zu 4 Teraops (INT8) respektive 4 Teraflops (FP8). Die vorherige Version, das DGX A100, wurde noch mit zwei 64-kernigen Epyc 7742 (Rome) ausgeliefert.

Einzig DGX wurde noch nicht auf ARM umgestellt

Vor einigen Wochen sagte Nvidia, dass zwei Referenzplattformen für das DGX H100 existieren: Eine mit AMDs Epyc 7004 (Genoa) und eine mit Intels Xeon SP v4 (Sapphire Rapids), wobei die Wahl schlussendlich auf Letztere gefallen ist. Gründe nannte Huang abseits der Singlethread-Performance nicht, es gibt sie aber. Nach aktuellem Stand erscheint Sapphire Rapids vor Genoa, eventuell passen die CPUs besser in Nvidias Zeitfenster.

Bei den Referenzdesigns unterscheidet Nvidia zwischen CGX (Cloud), DGX (Deep Learning), HGX (High Density) und OVX (Omniverse). Spannend ist dabei, dass für alle außer DGX bereits solche mit dem selbst entwickelten und ARM-basiertem Grace-Prozessor geplant sind. Einzig bei DGX setzt Nvidia auch zukünftig auf x86-Chips, wie die Entscheidung zugunsten Sapphire Rapids zeigt.

Golem Karrierewelt
  1. Einführung in Unity: virtueller Ein-Tages-Workshop
    13.10.2022, Virtuell
  2. Container Technologie: Docker und Kubernetes - Theorie und Praxis: virtueller Drei-Tage-Workshop
    27.-29.09.2022, virtuell
Weitere IT-Trainings

Das DGX H100 dürfte zwei der Xeons mit 2 TByte DDR5 nutzen, hinzu kommen acht H100-Beschleuniger, zwei Bluefield-3-DPUs und vier NV-Switches. Für das Betriebssystem gibt es zwei 1,92-TByte-NVMe-M.2-SSDs, für Daten zusätzlich acht 3,84-TByte-NVMe-U.2-SSDs.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Einsparverordnungen
So sollen Verwaltung, Bürger und Firmen Energie sparen

Reduzierte Raumtemperaturen und ungeheizte Swimmingpools: Die Regierung fordert eine "nationale Kraftanstrengung" wegen des Gasmangels.

Einsparverordnungen: So sollen Verwaltung, Bürger und Firmen Energie sparen
Artikel
  1. Bildverkleinern in C#: Eine Windows-App zur Verkleinerung von Bilddateien
    Bildverkleinern in C#
    Eine Windows-App zur Verkleinerung von Bilddateien

    Wir zeigen mit Visual Studio, wie Drag-&-Drop funktioniert, klären, ob unter Windows runde Fenster möglich sind, und prüfen, wie aufwendig eine mehrsprachige Bedienungsoberfläche ist (ziemlich).
    Eine Anleitung von Michael Bröde

  2. Geheimgespräche: Apple wollte angeblich Anteil an Facebooks Werbeeinnahmen
    Geheimgespräche
    Apple wollte angeblich Anteil an Facebooks Werbeeinnahmen

    Apples höherer Datenschutz macht Facebook inzwischen das Leben schwer. Zuvor soll es geheime Gespräche über eine Umsatzbeteiligung gegeben haben.

  3. Nachhaltigkeit: Thüringens Reparaturbonus weiter stark nachgefragt
    Nachhaltigkeit
    Thüringens Reparaturbonus weiter stark nachgefragt

    Der Reparaturbonus wird in Thüringen weiter gut genutzt. Eine Stärkung der Gerätereparatur in ganz Deutschland wird noch geprüft.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • LG 38WN95C-W (UWQHD+, 144 Hz) 933,35€ • Sharkoon Light² 180 22,99€ • HyperX Cloud Flight 44€ • BenQ Mobiuz EX3410R 499€ • MindStar (u. a. AMD Ryzen 5 5600X 169€, Intel Core i5-12400F 179€ und XFX RX 6800 XT 699€) • Weekend Sale bei Alternate (u. a. AKRacing Master PRO 353,99€) [Werbung]
    •  /