Cloud TPU v3: Googles neue Deep-Learning-Hardware braucht Flüssigkühlung

Für die dritte Version von Googles TPU nutzt das Unternehmen erstmals eine Flüssigkeitskühlung. Ein TPU-System für das maschinelle Lernen mit der neuen Generation soll über 100 Petaflops an Rechenleistung erreichen.

Artikel veröffentlicht am ,
Die TPUv3 benötigen eine Flüssigkeitskühlung.
Die TPUv3 benötigen eine Flüssigkeitskühlung. (Bild: Google/Screenshot: Golem.de)

Google arbeitet seit einigen Jahren an eigener spezieller Hardware zum Beschleunigen seiner Machine-Learning-Aufgaben. Dafür nutzt das Unternehmen die sogenannten Tensor Processing Units (TPUs). Die nun von Google-CEO Sundar Pichai vorgestellte dritte Version der TPU soll die Leistung der Systeme im Vergleich zu den Vorgängern nochmals massiv steigern und sich damit noch weiter von den oftmals genutzten Grafikkarten absetzen. Besonders wichtig dabei ist offenbar ein völlig überarbeitetes Kühlungskonzept für die Geräte.

Stellenmarkt
  1. IT-Softwareentwickler/-in mit dem Schwerpunkt Web-Entwicklung (m/w/d)
    awk AUSSENWERBUNG GmbH, Koblenz
  2. Minijobber:in im Customer Suppport (w/d/m)
    Haufe Group, Freiburg im Breisgau
Detailsuche

Denn wie Pichai in der Vorstellung erklärt, hat Google für die neuen TPUs erstmals überhaupt eine Flüssigkeitskühlung für Hardware in seinen Rechenzentren verbaut. Unter anderem damit erreichen die TPUv3 mehr als die achtfache Leistung der TPUv2. Laut Google erreiche das System so über 100 Petaflops.

Sowohl diese Angabe als auch die wenigen verfügbaren Bilder der TPUv3 legen nahe, dass der Aufbau der Geräte für die dritte Generation nicht fundamental verändert worden ist. So bietet eine einzelne Einheit der zweiten Generation der TPU eine Leistung von 180 Teraflops. Diese Module wiederum werden zu einem Pod aus 64 einzelnen Geräten zusammengefasst. Die etwas mehr als achtfache Leistung eines dieser Pods entspricht den in der Ankündigung genannten 100 Petaflops.

Monster-Hardware hängt Grafikkarten weiter ab

Ob und welche architektonischen Veränderungen Google an den eigentlichen TPU-Chips vorgenommen hat, um diese Leistung zu erreichen, ist zurzeit nicht bekannt. Möglich ist auch, dass Google zusätzlich zu der Kühlung auch die Größe der Pods erweitert hat, so spricht Pichai explizit von "Giant Pods".

Golem Karrierewelt
  1. AZ-500 Microsoft Azure Security Technologies (AZ-500T00): virtueller Vier-Tage-Workshop
    30.01.-02.02.2023, virtuell
  2. Green IT: Praxisratgeber zur nachhaltigen IT-Nutzung (virtueller Ein-Tages-Workshop)
    14.03.2023, virtuell
Weitere IT-Trainings

Wie krass die Leistungsfähigkeit der neuen TPU von Google ist, zeigt ein Vergleich mit Nvidias aktuellem Deep-Learning-System DGX-2, das über 16 Tesla V100 als Rechenbeschleuniger verfügt. Dieses Komplettsystem von Nvidia erreicht eine theoretische Rechenleistung von 2 Petaflops. Nur einige wenige einzelne Module der TPUv3 sollten damit schnell über der Rechenleistung von Nvidias DGX-2 liegen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Twitter
Was bisher bei Elon Musks Twitter 2.0 geschah

Nach der Twitter-Übernahme durch Elon Musk ist klar: Das Netzwerk hat wesentlich weniger Mitarbeiter. Es ist aber noch viel mehr passiert.
Ein Bericht von Oliver Nickel

Twitter: Was bisher bei Elon Musks Twitter 2.0 geschah
Artikel
  1. Responsible Disclosure: Obi macht das Melden einer Sicherheitslücke schwer
    Responsible Disclosure
    Obi macht das Melden einer Sicherheitslücke schwer

    Ein Sicherheitsforscher hat eine Lücke bei mehreren Unternehmen und Stadtverwaltungen gemeldet. Obi machte es ihm besonders schwer.

  2. Glasfaser: Konkurrenz gegen Abschaltrecht des Kupfernetzes der Telekom
    Glasfaser
    Konkurrenz gegen Abschaltrecht des Kupfernetzes der Telekom

    Noch ist die Telekom weit davon entfernt, ihr Kupfernetz abschalten zu können. Doch erste Planungen laufen und die Konkurrenz stellt Forderungen.

  3. Sono Motors: Solarauto Sion steht vor dem Aus
    Sono Motors
    Solarauto Sion steht vor dem Aus

    Sono Motors hat nicht mehr genug Geld für den Aufbau der Serienproduktion des Solarautos Sion. Nun soll die Community finanziell helfen. Mal wieder.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5 bei Amazon • Samsung SSDs bis -28% • Rabatt-Code für ebay • Logitech Mäuse, Tastaturen & Headsets -53% • HyperX PC-Peripherie -56% • Google Pixel 6 & 7 -49% • PS5-Spiele günstiger • Tiefstpreise: Palit RTX 4080 1.369€, Roccat Kone Pro 39,99€, Asus RTX 6950 XT 939€ [Werbung]
    •  /