Abo
  • IT-Karriere:

Tesla P100 & P40: Microsoft nutzt Pascal-GPUs für Azure

Wer seine künstliche Intelligenz optimieren oder in Echtzeit Sprache übersetzen möchte, der hat bei Microsofts Azure-Cloud neue Tesla-Optionen mit Nvidias Pascal-Technik: Die P100 eignen sich für Training, die P40 auch für Inferencing.

Artikel veröffentlicht am ,
Tesla P100 in der NV-Link-Variante
Tesla P100 in der NV-Link-Variante (Bild: Nvidia)

Microsoft bietet für die Azure-Cloud-Plattform bald zwei neue Instanzen in verschiedenen Ausbaustufen an: Die virtuellen Maschinen der Reihe NC_v2 basieren auf bis zu vier Tesla P100 von Nvidia, die ND-Familie auf bis zu vier Tesla P40. Beide ersetzen die bisherige Serie NC_v1 mit bis zu vier Tesla K80, liefern aber weitaus mehr Flexibilität und Geschwindigkeit.

  • Stand der Dinge bei Azure (Foto: Marc Sauter/Golem.de)
  • Die bisherige NC-Instanz (Foto: Marc Sauter/Golem.de)
  • Die NC_v2-Instanz nutzt Tesla P100. (Foto: Marc Sauter/Golem.de)
  • Vergleich von NC und NC_v2 (Foto: Marc Sauter/Golem.de)
  • ND beschreibt Instanzen mit Tesla P40.  (Foto: Marc Sauter/Golem.de)
  • Vergleich von NC und ND beim Training (Foto: Marc Sauter/Golem.de)
  • Vergleich von NC und ND beim Inferencing (Foto: Marc Sauter/Golem.de)
Die NC_v2-Instanz nutzt Tesla P100. (Foto: Marc Sauter/Golem.de)
Stellenmarkt
  1. Ryte GmbH, München
  2. Conergos, München

Die NC_v2-Instanzen eignen sich für HPC (High Performance Computing) wie seismische Berechnungen, DNA-Sequenzierung oder Effekte für Filme. Die Tesla P100 weisen hierzu rund 9,3 Teraflops pro Beschleuniger bei einfacher und 4,7 Teraflops bei doppelter Genauigkeit auf. Zwar unterstützen sie auch Half Precision (FP16) mit 18,6 Teraflops - das würden aber nur wenige Kunden nachfragen. Verglichen mit den bisherigen NC-Systemen mit Tesla K80 steigt die Leistung in HPC-Benchmarks teils um das Dreifache. Die NC_v2 sind mit bis zu 24 CPU-Kernen, 448 GByte und 3 TByte Flash-Speicher verfügbar.

Tesla P40 für Inferencing

Für das Training von künstlicher Intelligenz oder das Inferencing bei Deep Learning sind die ND-Instanzen mit Tesla P40 gedacht. Ihnen fehlt beschleunigtes FP16, dafür erreicht eine Karte bereits knapp 12 Teraflops bei Single Precision. Außerdem beherrschen sie bei INT8 die vierfache Geschwindigkeit, was sie für Inferencing interessant macht. FPGAs seien oft schneller, bisher bietet Microsoft die aber nicht in der Azure-Cloud an.

Bei Workloads mit Caffe oder dem Cognitive Toolkit (CNTK) seien vier Tesla P40 mehr als doppelt so flott wie vier Tesla K80. Bei Inferencing statt Training fällt der Leistungszuwachs noch drastischer aus: Microsoft spricht von Faktor 21, wenn das Tensor-RT-Framework und viele Bilder verwendet werden.

Die neuen Instanzen sollen als Vorschauversion in den kommenden Monaten verfügbar sein, interessierte Kunden können sich anmelden.



Anzeige
Hardware-Angebote
  1. 294€
  2. 469€
  3. 289€

Folgen Sie uns
       


Asrock DeskMini A300 - Test

Der DeskMini A300 von Asrock ist ein Mini-PC mit weniger als zwei Litern Volumen. Der kleine Rechner basiert auf einer Platine mit Sockel AM4 und eignet sich daher für Raven-Ridge-Chips wie den Athlon 200GE oder den Ryzen 5 2400G.

Asrock DeskMini A300 - Test Video aufrufen
Black Mirror Staffel 5: Der Gesellschaft den Spiegel vorhalten
Black Mirror Staffel 5
Der Gesellschaft den Spiegel vorhalten

Black Mirror zeigt in der neuen Staffel noch alltagsnäher als bisher, wie heutige Technologien das Leben in der Zukunft katastrophal auf den Kopf stellen könnten. Dabei greift die Serie auch aktuelle Diskussionen auf und zeigt mitunter, was bereits im heutigen Alltag schiefläuft - ein Meisterwerk! Achtung, Spoiler!
Eine Rezension von Tobias Költzsch

  1. Streaming Netflix testet an Instagram erinnernden News-Feed
  2. Start von Disney+ Netflix wird nicht dauerhaft alle Disney-Inhalte verlieren
  3. Videostreaming Netflix will Zuschauerzahlen nicht länger geheim halten

WD Blue SN500 ausprobiert: Die flotte günstige Blaue
WD Blue SN500 ausprobiert
Die flotte günstige Blaue

Mit der WD Blue SN500 bietet Western Digital eine spannende NVMe-SSD an: Das M.2-Kärtchen basiert auf einem selbst entwickelten Controller und eigenem Flash-Speicher. Das Resultat ist ein schnelles, vor allem aber günstiges Modell als bessere Alternative zu Sata-SSDs.
Von Marc Sauter

  1. WD Black SN750 ausprobiert Direkt hinter Samsungs SSDs
  2. WD Black SN750 Leicht optimierte NVMe-SSD mit 2 TByte
  3. Ultrastar DC ME200 Western Digital baut PCIe-Arbeitsspeicher mit 4 TByte

Final Fantasy 7 Remake angespielt: Cloud Strife und die (fast) unendliche Geschichte
Final Fantasy 7 Remake angespielt
Cloud Strife und die (fast) unendliche Geschichte

E3 2019 Das Remake von Final Fantasy 7 wird ein Riesenprojekt, allein die erste Episode erscheint auf zwei Blu-ray-Discs. Kurios: In wie viele Folgen das bereits enorm umfangreiche Original von 1997 aufgeteilt wird, kann bislang nicht mal der Producer sagen.

  1. Final Fantasy 14 Online Report Zwischen Cosplay, Kirmes und Kampfsystem
  2. Square Enix Final Fantasy 14 erhält Solo-Inhalte und besonderen Magier
  3. Rollenspiel Square Enix streicht Erweiterungen für Final Fantasy 15

    •  /