Tesla T4: Nvidia bringt Googles Cloud auf Turing

Auf die Quadro RTX und die Geforce RTX folgt die Tesla T4: Die Grafikkarte mit Turing-Architektur ist ein Inferencing-Beschleuniger mit Tensor-Cores, den unter anderem Google für das eigene Cloud-Angebot nutzt.

Artikel veröffentlicht am ,
Tesla T4
Tesla T4 (Bild: Nvidia)

Nvidia hat die Entwicklerkonferenz GTC Japan genutzt, um die Tesla T4 vorzustellen. Die Grafikkarte dient als Inferencing-Beschleuniger für maschinelles Lernen und folgt auf die Tesla P4. Das T bei Tesla T4 steht für die neue Turing-Architektur, so wie das P der Tesla P4 die Pascal-Technik kennzeichnet. Nvidia wirbt mit zwölffacher Inferencing-Leistung, die Werte sind allerdings aufgrund abweichender Rechengenauigkeit nicht direkt vergleichbar.

Stellenmarkt
  1. (Junior) IT Systemadministrator (m/w/d)
    Lurse, Düsseldorf, Frankfurt/Main, Hannover, München, Paderborn/Salzkotten
  2. Wissenschaftliche*r Referent*in (m/w/d) Informatik oder Naturwissenschaften, bevorzugt Physik
    BfS Bundesamt für Strahlenschutz, Freiburg, Oberschleißheim
Detailsuche

Die Tesla T4 basiert auf einem TU104-Chip, von 3.072 Shader-Einheiten und 384 Tensor-Cores sind aber nur 2.560 respektive 320 aktiv. Das reicht für 8,1 Teraflops bei FP32-Präzision und für gleich 65 Teraflops bei FP16-Genaugkeit, da hier die Tensor-Cores die Matrix-Multiplikationen vornehmen. Der Beschleuniger liefert daher auch 130 Teraops bei INT8 sowie 260 Teraops bei INT4, experimentell wird überdies INT1 unterstützt. Die ältere Tesla P4 kommt auf 5,5 FP32-Teraflops und 22 INT8-Teraops.

Aufgrund des überarbeiteten NVENC (Nvidia Encoder) soll die mit 16 GByte GDDR6-Videospeicher versehene Tesla T4 mit bis zu 38 Full-HD-Videostreams doppelt so viele parallel decodieren können wie die Tesla P4, weshalb sie ihre Inferencing-Leistung auch an dieser Stelle einsetzen kann. Wie gehabt handelt es sich um ein Singleslot-Modell mit passiver Kühlung und ohne Display-Ausgänge, die Verlustleistung wird auf 70 Watt beziffert, weshalb der PCIe-Slot zur Stromversorgung ausreicht.

Einer der ersten Kunden für die Tesla T4 ist Google, die Alphabet-Tochter wird die Beschleuniger in der Google Cloud Platform für Kunden bereitstellen. Google verwendet bisher die Tesla P4 in der GCP für Inferencing und Decoding/Encoding.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Programmierung
Softwareentwicklung ist sehr subjektiv

Viele Programmierer haben ihre eigene Best Practice beim Entwickeln von Software und befolgen sie sehr strikt. Hier wäre mehr Offenheit angebracht.
Ein IMHO von Vadim Kravcenko

Programmierung: Softwareentwicklung ist sehr subjektiv
Artikel
  1. Strom: Wie wahrscheinlich ist ein Blackout?
    Strom
    Wie wahrscheinlich ist ein Blackout?

    "Blackout" könnte das Wort des Jahres werden, so viel wird davon gesprochen. Wir klären, ob Deutschland in diesem Winter wirklich seinen ersten derart verheerenden Stromausfall erleben könnte.
    Eine Analyse von Gerd Mischler

  2. IT-Sicherheit mit Kali Linux - 50 Prozent Rabatt nutzen!
     
    IT-Sicherheit mit Kali Linux - 50 Prozent Rabatt nutzen!

    Die Golem Karrierewelt bietet ihren bewährten, über vierstündigen E-Learning-Kurs "IT-Sicherheitstests und Ethical Hacking mit Kali Linux" zum halben Preis an!
    Sponsored Post von Golem Karrierewelt

  3. OpenAI: GPT-3 kann Lyrik und bekommt gute Dialoge
    OpenAI
    GPT-3 kann Lyrik und bekommt gute Dialoge

    OpenAI hat das Sprachmodell für GPT-3 aktualisiert - und das kann nun auch reimen. Eine Variante für Chats ist überraschend gut.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5 jetzt bestellbar • LG OLED TV (2022) 55" 120Hz 949€ • Mindstar: Geforce RTX 4080 1.449€ • Tiefstpreise: G.Skill 32GB Kitt DDR5-7200 • 351,99€ Crucial SSD 4TB 319€, HTC Vive Pro 2 659€ • Samsung Cyber Week • Top-TVs (2022) LG & Samsung über 40% günstiger [Werbung]
    •  /