Machine Learning: Google bietet direkten Zugriff auf TPU-Hosts

Die TPU-Beschleuniger von Google können künftig direkt von der Host-Maschine aus genutzt werden. Das spart Umwege und Kosten.

Artikel veröffentlicht am ,
Kunden können direkt auf die Host-VM der Cloud TPU zugreifen.
Kunden können direkt auf die Host-VM der Cloud TPU zugreifen. (Bild: Google)

Cloud-Hoster Google hat die allgemeine Verfügbarkeit der sogenannten Cloud TPU VMs bekanntgegeben. Damit soll es deutlich einfacher werden als bisher, die für Machine Learning gedachten speziellen Beschleuniger zu nutzen, indem Kunden Zugriff auf die Host-Maschinen erhalten, an denen die TPUs (Tensor Processing Units) angeschlossen sind.

Stellenmarkt
  1. Fachkraft Customer Support (w/d/m)
    Haufe Group, Freiburg im Breisgau
  2. Java Entwickler (m/w/d)
    uniVersa Lebensversicherung a. G., Nürnberg
Detailsuche

Kunden sollen durch den Host-Zugriff die Möglichkeit bekommen, interaktiver mit den TPUs zu arbeiten, da sich die eigene Entwicklungsumgebung direkt nutzen lässt. Zuvor waren der Zugriff und die Nutzung der TPUs nur über das Netzwerk und gRPC-Aufrufe möglich. Die Architektur ähnelt also im Aufbau vielmehr einem physischen Rechner mit Beschleuniger-Hardware. Ein Vollzugriff statt einer VM dürfte Google wohl aber kaum je anbieten.

Zur Ankündigung erster Tests mit dem Cloud TPU VMs schrieb Google bereits: "Sie haben Root-Zugriff auf jede von Ihnen erstellte TPU-VM, so dass Sie jeden gewünschten Code in einer engen Schleife mit Ihren TPU-Beschleunigern installieren und ausführen können. Sie können lokalen Speicher verwenden, benutzerdefinierten Code in Ihren Eingabepipelines ausführen und Cloud-TPUs einfacher in Ihre Forschungs- und Produktions-Workflows integrieren."

Mehr Möglichkeiten dank Host-Zugriff

Möglich wird durch den direkten Zugriff laut Google darüber hinaus nicht nur ein besseres Debugging, sondern etwa auch das Training für Distributed Reinforcement Learning. Da Kunden außerdem keine dedizierte VM mehr brauchen, sondern die der TPU nutzen, ließen sich auch Kosten senken.

Golem Karrierewelt
  1. Einführung in Unity: virtueller Ein-Tages-Workshop
    13.10.2022, Virtuell
  2. AZ-104 Microsoft Azure Administrator: virtueller Vier-Tage-Workshop
    19.-22.09.2022, virtuell
Weitere IT-Trainings

Zur angekündigten allgemeinen Verfügbarkeit stellt Google auch eine neue TPU-Embedding-API bereit. Genutzt werden können die Cloud TPU VMs mit Tensorflow, Pytorch und JAX.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Kabelnetz
Vodafone setzt neuartige Antennendosen ein

Ohne Radioport kommt die neue Antennendose und ist damit schon für DOCSIS 4.0 vorbereitet. Doch sie soll bereits jetzt Vorteile für Vodafone-Kunden bringen.

Kabelnetz: Vodafone setzt neuartige Antennendosen ein
Artikel
  1. Bundesnetzagentur: Streit um Preis fürs Recht auf Internet entbrannt
    Bundesnetzagentur
    Streit um Preis fürs Recht auf Internet entbrannt

    Das Recht auf Versorgung mit Internet braucht einen Preis. Ein Vorschlag der Bundesnetzagentur, diesen zu ermitteln, stößt auf Kritik der Betreiber.

  2. iPhone-Bildschirm: iOS 16 mit abermals veränderter Akkuanzeige
    iPhone-Bildschirm
    iOS 16 mit abermals veränderter Akkuanzeige

    Apple hat teilweise auf die Kritik an der Akkuanzeige in iOS 16 reagiert. In der Beta 6 gibt es mehr Einstellmöglichkeiten im Energiesparmodus.

  3. Data Mesh: Herr der Daten
    Data Mesh
    Herr der Daten

    Von Datensammelwut und Data Lake zu Pragmatismus und Data Mesh - ein Kulturwandel.
    Von Mario Meir-Huber

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Günstig wie nie: Zotac RTX 3080 12GB 829€, Mac mini 16GB 1.047,26€, Samsung SSD 1TB/2TB (PS5) 111€/199,99€ • MindStar (Sapphire RX 6900XT 939€, G.Skill DDR4-3200 32GB 98€) • PS5 bestellbar • Games für PS5/PS4 bis 84% günstiger • Bester 2.000€-Gaming-PC[Werbung]
    •  /