Tesla T4: Nvidia bringt Googles Cloud auf Turing

Auf die Quadro RTX und die Geforce RTX folgt die Tesla T4: Die Grafikkarte mit Turing-Architektur ist ein Inferencing-Beschleuniger mit Tensor-Cores, den unter anderem Google für das eigene Cloud-Angebot nutzt.

Artikel veröffentlicht am ,
Tesla T4
Tesla T4 (Bild: Nvidia)

Nvidia hat die Entwicklerkonferenz GTC Japan genutzt, um die Tesla T4 vorzustellen. Die Grafikkarte dient als Inferencing-Beschleuniger für maschinelles Lernen und folgt auf die Tesla P4. Das T bei Tesla T4 steht für die neue Turing-Architektur, so wie das P der Tesla P4 die Pascal-Technik kennzeichnet. Nvidia wirbt mit zwölffacher Inferencing-Leistung, die Werte sind allerdings aufgrund abweichender Rechengenauigkeit nicht direkt vergleichbar.

Stellenmarkt
  1. Testingenieur (w/m/d) in der Automobilindustrie
    Vdynamics GmbH, München
  2. IT-Systemadministrator (m/w/d)
    Stadtverwaltung Uhingen, Uhingen
Detailsuche

Die Tesla T4 basiert auf einem TU104-Chip, von 3.072 Shader-Einheiten und 384 Tensor-Cores sind aber nur 2.560 respektive 320 aktiv. Das reicht für 8,1 Teraflops bei FP32-Präzision und für gleich 65 Teraflops bei FP16-Genaugkeit, da hier die Tensor-Cores die Matrix-Multiplikationen vornehmen. Der Beschleuniger liefert daher auch 130 Teraops bei INT8 sowie 260 Teraops bei INT4, experimentell wird überdies INT1 unterstützt. Die ältere Tesla P4 kommt auf 5,5 FP32-Teraflops und 22 INT8-Teraops.

Aufgrund des überarbeiteten NVENC (Nvidia Encoder) soll die mit 16 GByte GDDR6-Videospeicher versehene Tesla T4 mit bis zu 38 Full-HD-Videostreams doppelt so viele parallel decodieren können wie die Tesla P4, weshalb sie ihre Inferencing-Leistung auch an dieser Stelle einsetzen kann. Wie gehabt handelt es sich um ein Singleslot-Modell mit passiver Kühlung und ohne Display-Ausgänge, die Verlustleistung wird auf 70 Watt beziffert, weshalb der PCIe-Slot zur Stromversorgung ausreicht.

Einer der ersten Kunden für die Tesla T4 ist Google, die Alphabet-Tochter wird die Beschleuniger in der Google Cloud Platform für Kunden bereitstellen. Google verwendet bisher die Tesla P4 in der GCP für Inferencing und Decoding/Encoding.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
MS Satoshi
Die abstruse Geschichte des Bitcoin-Kreuzfahrtschiffs

Kryptogeld-Enthusiasten kauften ein Kreuzfahrtschiff und wollten es zum schwimmenden Freiheitsparadies machen. Allerdings scheiterten sie an jeder einzelnen Stelle.
Von Elke Wittich

MS Satoshi: Die abstruse Geschichte des Bitcoin-Kreuzfahrtschiffs
Artikel
  1. Gigafactory Berlin: Tesla verzichtet für Akkufertigung auf staatliche Förderung
    Gigafactory Berlin
    Tesla verzichtet für Akkufertigung auf staatliche Förderung

    Tesla verzichtet für die geplante Akkufertigung in Grünheide bei Berlin auf eine mögliche staatliche Förderung in Milliardenhöhe.

  2. Microsoft: Xbox-Spieler in Halo Infinite von Crossplay genervt
    Microsoft
    Xbox-Spieler in Halo Infinite von Crossplay genervt

    Im Multiplayer von Halo Infinite gibt es offenbar immer mehr Cheater. Nun fordern Xbox-Spieler eine Option, um gemeinsame Partien mit PCs zu vermeiden.

  3. 50 Prozent bei IT-Weiterbildung sparen
     
    50 Prozent bei IT-Weiterbildung sparen

    Die Black Week 2021 in der Golem Karrierewelt läuft weiter: 50 Prozent bei zahlreichen Live-Workshops, Coachings und E-Learnings sparen - noch bis Montag!
    Sponsored Post von Golem Akademie

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Heute ist Black Friday • Corsair MP600 Pro XT 1TB 167,96€ • Apple Watch Series 6 ab 379€ • Boxsets (u. a. Game of Thrones Blu-ray 79,97€) • Samsung Galaxy S21 128GB 777€ • Premium-Laptops (u. a. Lenovo Ideapad 5 Pro 16" 829€) • MS Surface Pro7+ 888€ • Astro Gaming Headsets [Werbung]
    •  /