Machine Learning: Google bietet direkten Zugriff auf TPU-Hosts
Cloud-Hoster Google hat die allgemeine Verfügbarkeit der sogenannten Cloud TPU VMs(öffnet im neuen Fenster) bekanntgegeben. Damit soll es deutlich einfacher werden als bisher, die für Machine Learning gedachten speziellen Beschleuniger zu nutzen, indem Kunden Zugriff auf die Host-Maschinen erhalten, an denen die TPUs (Tensor Processing Units) angeschlossen sind.
Kunden sollen durch den Host-Zugriff die Möglichkeit bekommen, interaktiver mit den TPUs zu arbeiten, da sich die eigene Entwicklungsumgebung direkt nutzen lässt. Zuvor waren der Zugriff und die Nutzung der TPUs nur über das Netzwerk und gRPC-Aufrufe möglich. Die Architektur ähnelt also im Aufbau vielmehr einem physischen Rechner mit Beschleuniger-Hardware. Ein Vollzugriff statt einer VM dürfte Google wohl aber kaum je anbieten.
Zur Ankündigung erster Tests mit dem Cloud TPU VMs(öffnet im neuen Fenster) schrieb Google bereits: "Sie haben Root-Zugriff auf jede von Ihnen erstellte TPU-VM, so dass Sie jeden gewünschten Code in einer engen Schleife mit Ihren TPU-Beschleunigern installieren und ausführen können. Sie können lokalen Speicher verwenden, benutzerdefinierten Code in Ihren Eingabepipelines ausführen und Cloud-TPUs einfacher in Ihre Forschungs- und Produktions-Workflows integrieren."
Mehr Möglichkeiten dank Host-Zugriff
Möglich wird durch den direkten Zugriff laut Google darüber hinaus nicht nur ein besseres Debugging, sondern etwa auch das Training für Distributed Reinforcement Learning. Da Kunden außerdem keine dedizierte VM mehr brauchen, sondern die der TPU nutzen, ließen sich auch Kosten senken.
Zur angekündigten allgemeinen Verfügbarkeit stellt Google auch eine neue TPU-Embedding-API(öffnet im neuen Fenster) bereit. Genutzt werden können die Cloud TPU VMs mit Tensorflow, Pytorch und JAX.