Abo
  • IT-Karriere:

EC2 G4: AWS nutzt Nvidias Tesla T4 für Inferencing-Cloud

Nach Baidu und Google nun auch Alibaba und Amazon: Weitere Cloud-Anbieter setzen die Tesla T4 von Nvidia ein. Sie eignet sich dank Turing-Technik für Training, Inferencing oder Video-Transcoding.

Artikel veröffentlicht am ,
AWS bietet Instanzen mit Nvidias Tesla T4 an.
AWS bietet Instanzen mit Nvidias Tesla T4 an. (Bild: Marc Sauter/Golem.de)

Nvidia hat auf der GPU Technology Conference im kalifornischen San José neue Partner benannt, welche die Tesla T4 in den eigenen Cloud-Instanzen anbieten werden. Die Beschleunigerkarte wurde im September 2018 vorgestellt, bisher setzen Baidu und Google sie ein, nun folgen Alibaba und Amazon mit der EC2-G4-Instanz.

Stellenmarkt
  1. Rational AG, Landsberg am Lech
  2. Radeberger Gruppe KG, Raum Frankfurt am Main

Die Tesla T4 basiert auf dem TU104-Chip mit Turing-Architektur und integriert Tensor-Cores, weshalb sie FP16- und INT8-Berechnungen besonders schnell durchführen kann. Das ist hilfreich für Inferencing, beispielsweise zur Objekterkennung in Fotos oder zur Umsetzung von Spracherkennung.

AWS (Amazon Web Services) nutzt in den EC2-G4-Instanzen (Elastic Compute Cloud) bis zu acht Tesla T4 sowie bis zu 96 CPU-Kerne samt bis zu 384 GByte Arbeitsspeicher sowie NVMe-SSDs. Vorerst bietet AWS die EC2 G4 nur als Private Preview für interessierte Kunden an, später im Jahr sollen die Instanzen regulär verfügbar sein.

Dank des überarbeiteten NVENC (Nvidia Encoder) soll die mit 16 GByte GDDR6-Videospeicher versehene Tesla T4 mit bis zu 38 Full-HD-Videostreams doppelt so viele parallel decodieren können wie die ältere Tesla P4, weshalb sie ihre Inferencing-Leistung auch an dieser Stelle einsetzen kann. Wie gehabt handelt es sich um ein Singleslot-Modell mit passiver Kühlung und ohne Display-Ausgänge, die Verlustleistung wird auf 70 Watt beziffert, weshalb der PCIe-Slot zur Stromversorgung ausreicht.

Bisher ist die Tesla T4 die einzige Turing-Tesla, allerdings arbeitet Nvidia an schnelleren Modellen mit dem TU102-Chip: Der hat 4.608 Rechenkerne statt 3.072 Shader-Einheiten und ein 384-Bit- statt ein 256-Bit-Interface für GDDR6-Videospeicher.

Offenlegung: Golem.de hat auf Einladung von Nvidia hin an der GTC in San Jose teilgenommen, die Reisekosten wurden gänzlich von Nvidia übernommen. Unsere Berichterstattung ist davon nicht beeinflusst und bleibt gewohnt neutral und kritisch. Der Artikel ist, wie alle anderen auf unserem Portal, unabhängig verfasst und unterliegt keinerlei Vorgaben seitens Dritter.



Anzeige
Top-Angebote
  1. 49,94€
  2. 19,95€
  3. 13,95€
  4. (u. a. Grafikkarten, SSDs, Ram-Module reduziert)

ms (Golem.de) 19. Mär 2019

Was genau willst du denn wissen? die T4 nutzt einen niedrig taktenden TU104 was sie sehr...


Folgen Sie uns
       


ANC-Kopfhörer im Lautstärkevergleich

Wir haben Microsofts Surface Headphones und die Jabra Elite 85h bei der ANC-Leistung verglichen. Für einen besseren Vergleich zeigen wir auch die besonders leistungsfähigen ANC-Kopfhörer von Sony und Bose, die WH-1000XM3 und die Quiet Comfort 35 II.

ANC-Kopfhörer im Lautstärkevergleich Video aufrufen
Minecraft Dungeons angespielt: Fehlt nur noch ein Klötzchen-Diablo in der Tiefe
Minecraft Dungeons angespielt
Fehlt nur noch ein Klötzchen-Diablo in der Tiefe

E3 2019 Von der Steuerung bis zu den Schatzkisten: Minecraft Dungeons hat uns beim Anspielen bis auf die Klötzchengrafik verblüffend stark an Diablo erinnert - und könnte gerade deshalb teuflisch spaßig werden!

  1. Augmented Reality Minecraft Earth erlaubt Klötzchenbauen in aller Welt
  2. Microsoft Augmented-Reality-Minecraft kommt zum zehnten Jubiläum
  3. Jubiläum ohne Notch Microsoft feiert Minecraft ohne Markus Persson

Ocean Discovery X Prize: Autonome Fraunhofer-Roboter erforschen die Tiefsee
Ocean Discovery X Prize
Autonome Fraunhofer-Roboter erforschen die Tiefsee

Öffentliche Vergaberichtlinien und agile Arbeitsweise: Die Teilnahme am Ocean Discovery X Prize war nicht einfach für die Forscher des Fraunhofer Instituts IOSB. Deren autonome Tauchroboter zur Tiefseekartierung schafften es unter die besten fünf weltweit.
Ein Bericht von Werner Pluta

  1. JAB Code Bunter Barcode gegen Fälschungen

5G-Auktion: Warum der Preis der 5G-Frequenzen so hoch war
5G-Auktion
Warum der Preis der 5G-Frequenzen so hoch war

Dass die Frequenzen für den 5G-Mobilfunk teuer wurden, lasten Telekom, Vodafone und Telefónica dem Newcomer United Internet an. Doch dies ist laut dem Netzplaner Kai Seim nicht so gewesen.
Eine Analyse von Achim Sawall

  1. Funklöcher Hohe Bußgelder gegen säumige Mobilfunknetzbetreiber
  2. Bundesnetzagentur 5G-Frequenzauktion erreicht 6,5 Milliarden Euro
  3. 5G-Auktion Etablierte wollen Preis für 1&1 Drillisch hochtreiben

    •  /