• IT-Karriere:
  • Services:

Tesla P100 & P40: Microsoft nutzt Pascal-GPUs für Azure

Wer seine künstliche Intelligenz optimieren oder in Echtzeit Sprache übersetzen möchte, der hat bei Microsofts Azure-Cloud neue Tesla-Optionen mit Nvidias Pascal-Technik: Die P100 eignen sich für Training, die P40 auch für Inferencing.

Artikel veröffentlicht am ,
Tesla P100 in der NV-Link-Variante
Tesla P100 in der NV-Link-Variante (Bild: Nvidia)

Microsoft bietet für die Azure-Cloud-Plattform bald zwei neue Instanzen in verschiedenen Ausbaustufen an: Die virtuellen Maschinen der Reihe NC_v2 basieren auf bis zu vier Tesla P100 von Nvidia, die ND-Familie auf bis zu vier Tesla P40. Beide ersetzen die bisherige Serie NC_v1 mit bis zu vier Tesla K80, liefern aber weitaus mehr Flexibilität und Geschwindigkeit.

  • Stand der Dinge bei Azure (Foto: Marc Sauter/Golem.de)
  • Die bisherige NC-Instanz (Foto: Marc Sauter/Golem.de)
  • Die NC_v2-Instanz nutzt Tesla P100. (Foto: Marc Sauter/Golem.de)
  • Vergleich von NC und NC_v2 (Foto: Marc Sauter/Golem.de)
  • ND beschreibt Instanzen mit Tesla P40.  (Foto: Marc Sauter/Golem.de)
  • Vergleich von NC und ND beim Training (Foto: Marc Sauter/Golem.de)
  • Vergleich von NC und ND beim Inferencing (Foto: Marc Sauter/Golem.de)
Die NC_v2-Instanz nutzt Tesla P100. (Foto: Marc Sauter/Golem.de)
Stellenmarkt
  1. Stadtverwaltung Eisenach, Eisenach
  2. Thüringer Aufbaubank, AöR, Erfurt

Die NC_v2-Instanzen eignen sich für HPC (High Performance Computing) wie seismische Berechnungen, DNA-Sequenzierung oder Effekte für Filme. Die Tesla P100 weisen hierzu rund 9,3 Teraflops pro Beschleuniger bei einfacher und 4,7 Teraflops bei doppelter Genauigkeit auf. Zwar unterstützen sie auch Half Precision (FP16) mit 18,6 Teraflops - das würden aber nur wenige Kunden nachfragen. Verglichen mit den bisherigen NC-Systemen mit Tesla K80 steigt die Leistung in HPC-Benchmarks teils um das Dreifache. Die NC_v2 sind mit bis zu 24 CPU-Kernen, 448 GByte und 3 TByte Flash-Speicher verfügbar.

Tesla P40 für Inferencing

Für das Training von künstlicher Intelligenz oder das Inferencing bei Deep Learning sind die ND-Instanzen mit Tesla P40 gedacht. Ihnen fehlt beschleunigtes FP16, dafür erreicht eine Karte bereits knapp 12 Teraflops bei Single Precision. Außerdem beherrschen sie bei INT8 die vierfache Geschwindigkeit, was sie für Inferencing interessant macht. FPGAs seien oft schneller, bisher bietet Microsoft die aber nicht in der Azure-Cloud an.

Bei Workloads mit Caffe oder dem Cognitive Toolkit (CNTK) seien vier Tesla P40 mehr als doppelt so flott wie vier Tesla K80. Bei Inferencing statt Training fällt der Leistungszuwachs noch drastischer aus: Microsoft spricht von Faktor 21, wenn das Tensor-RT-Framework und viele Bilder verwendet werden.

Die neuen Instanzen sollen als Vorschauversion in den kommenden Monaten verfügbar sein, interessierte Kunden können sich anmelden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Spiele-Angebote
  1. (u. a. Far Cry 5 für 14,99€, Far Cry New Dawn für 17,99€, Far Cry für 3,99€)
  2. (-80%) 7,99€
  3. (-43%) 22,99€
  4. 3,74€

Folgen Sie uns
       


Cirrus7 Incus A300 - Test

Wir testen den Incus A300 von Cirrus7, einen passiv gekühlten Mini-PC für AMDs Ryzen 2000G/3000G.

Cirrus7 Incus A300 - Test Video aufrufen
Geforce Now im Test: Nvidia nutzt einzigartige CPU und GPU
Geforce Now im Test
Nvidia nutzt einzigartige CPU und GPU

Wer mit Nvidias Geforce Now spielt, bekommt laut Performance Overlay eine RTX 2060c oder RTX 2080c, tatsächlich aber werden eine Tesla RTX T10 als Grafikkarte und ein Intel CC150 als Prozessor verwendet. Die Performance ist auf die jeweiligen Spiele abgestimmt, vor allem mit Raytracing.
Ein Test von Marc Sauter

  1. Cloud Gaming Activision Blizzard zieht Spiele von Geforce Now zurück
  2. Nvidia-Spiele-Streaming Geforce Now kostet 5,49 Euro pro Monat
  3. Geforce Now Nvidias Cloud-Gaming-Dienst kommt noch 2019 für Android

Frauen in der Technik: Von wegen keine Vorbilder!
Frauen in der Technik
Von wegen keine Vorbilder!

Technik, also auch Computertechnik, war schon immer ein männlich dominiertes Feld. Das heißt aber nicht, dass es in der Geschichte keine bedeutenden Programmiererinnen gab. Besonders das Militär zeigte reges Interesse an den Fähigkeiten von Frauen.
Von Valerie Lux

  1. Bewerber für IT-Jobs Unzureichend qualifiziert, zu wenig erfahren oder zu teuer
  2. Männer und Frauen in der IT Gibt es wirklich Chancengleichheit in Deutschland?
  3. HR-Analytics Weshalb Mitarbeiter kündigen

Videostreaming: Was an Prime Video und Netflix nervt
Videostreaming
Was an Prime Video und Netflix nervt

Eine ständig anders sortierte Watchlist, ein automatisch startender Stream oder fehlende Markierungen für Aboinhalte: Oft sind es nur Kleinigkeiten, die den Spaß am Streaming vermiesen - eine Hassliste.
Ein IMHO von Ingo Pakalski

  1. WhatsOnFlix Smartphone-App für bessere Verwaltung der Netflix-Inhalte
  2. Netflix Staffel-2-Trailer zeigt Cyberpunk-Welt von Altered Carbon
  3. Videostreaming Netflix musste Night of the Living Dead entfernen

    •  /