Machine Learning: Google bietet direkten Zugriff auf TPU-Hosts

Die TPU-Beschleuniger von Google können künftig direkt von der Host-Maschine aus genutzt werden. Das spart Umwege und Kosten.

Artikel veröffentlicht am ,
Kunden können direkt auf die Host-VM der Cloud TPU zugreifen.
Kunden können direkt auf die Host-VM der Cloud TPU zugreifen. (Bild: Google)

Cloud-Hoster Google hat die allgemeine Verfügbarkeit der sogenannten Cloud TPU VMs bekanntgegeben. Damit soll es deutlich einfacher werden als bisher, die für Machine Learning gedachten speziellen Beschleuniger zu nutzen, indem Kunden Zugriff auf die Host-Maschinen erhalten, an denen die TPUs (Tensor Processing Units) angeschlossen sind.

Stellenmarkt
  1. Softwareentwickler Android TK App (m/w/d)
    Techniker Krankenkasse, Hamburg
  2. IT-Service-Manager*in Crossmedialer Systembetrieb
    Hessischer Rundfunk Anstalt des öffentlichen Rechts, Frankfurt am Main
Detailsuche

Kunden sollen durch den Host-Zugriff die Möglichkeit bekommen, interaktiver mit den TPUs zu arbeiten, da sich die eigene Entwicklungsumgebung direkt nutzen lässt. Zuvor waren der Zugriff und die Nutzung der TPUs nur über das Netzwerk und gRPC-Aufrufe möglich. Die Architektur ähnelt also im Aufbau vielmehr einem physischen Rechner mit Beschleuniger-Hardware. Ein Vollzugriff statt einer VM dürfte Google wohl aber kaum je anbieten.

Zur Ankündigung erster Tests mit dem Cloud TPU VMs schrieb Google bereits: "Sie haben Root-Zugriff auf jede von Ihnen erstellte TPU-VM, so dass Sie jeden gewünschten Code in einer engen Schleife mit Ihren TPU-Beschleunigern installieren und ausführen können. Sie können lokalen Speicher verwenden, benutzerdefinierten Code in Ihren Eingabepipelines ausführen und Cloud-TPUs einfacher in Ihre Forschungs- und Produktions-Workflows integrieren."

Mehr Möglichkeiten dank Host-Zugriff

Möglich wird durch den direkten Zugriff laut Google darüber hinaus nicht nur ein besseres Debugging, sondern etwa auch das Training für Distributed Reinforcement Learning. Da Kunden außerdem keine dedizierte VM mehr brauchen, sondern die der TPU nutzen, ließen sich auch Kosten senken.

Golem Akademie
  1. Linux-Systemadministration Grundlagen: virtueller Fünf-Tage-Workshop
    16.-20.05.2022, Virtuell
  2. IT-Sicherheit für Webentwickler: virtueller Zwei-Tage-Workshop
    19./20.05.2022, Virtuell
Weitere IT-Trainings

Zur angekündigten allgemeinen Verfügbarkeit stellt Google auch eine neue TPU-Embedding-API bereit. Genutzt werden können die Cloud TPU VMs mit Tensorflow, Pytorch und JAX.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Entwickler im Ukrainekrieg
"Es ist schwierig, aber das Team unterstützt mich"

Bereits im März sprach Golem.de mit zwei IT-Fachkräften aus Kyjiw. So geht es ihnen jetzt, mehr als zwei Monate nach Beginn des Ukrainekriegs.
Ein Bericht von Daniel Ziegener

Entwickler im Ukrainekrieg: Es ist schwierig, aber das Team unterstützt mich
Artikel
  1. Raumfahrt: Starliner fliegt nach mehr als zwei Jahren zum zweiten Mal
    Raumfahrt
    Starliner fliegt nach mehr als zwei Jahren zum zweiten Mal

    Nach einem fehlgeschlagenen Testflug, klemmenden Treibstoffventilen und vielen Verzögerungen ist Boeings Starliner erfolgreich abgehoben.
    Von Frank Wunderlich-Pfeiffer

  2. Kitty Lixo: Nach Sex mit Mitarbeitern Instagram-Account zurückerhalten
    Kitty Lixo
    Nach Sex mit Mitarbeitern Instagram-Account zurückerhalten

    Laut einer Sexdarstellerin muss man nur die richtigen Leute bei Facebook sehr intim kennen, um seinen Instagram-Account immer wieder zurückzubekommen.

  3. Delfast Top 3.0: Ukrainische Armee setzt E-Motorräder zur Panzerjagd ein
    Delfast Top 3.0
    Ukrainische Armee setzt E-Motorräder zur Panzerjagd ein

    Ukrainische Infanteristen nutzen E-Motorräder, um leise und schnell zum Einsatz zu gelangen und die Panzerabwehrlenkwaffe NLAW zu transportieren.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Borderlands 3 gratis • Inno3D RTX 3070 günstig wie nie: 614€ • AMD Ryzen 9 5900X 398€ • Kingston SSD 2TB günstig wie nie: 129,90€ • MindStar (u. a. Palit RTX 3050 339€) • Samsung Soundbar + Subwoofer 3.1.2 wireless günstig wie nie: 228,52€ • Dualsense + 1TB-SSD 176,58€ [Werbung]
    •  /