Machine Learning: Google bringt Mini-TPU zur Modell-Anwendung

Damit Machine-Learning-Modelle künftig noch schneller in sogenannten Edge-Geräten angewendet werden können, stellt Google mit den Edge-TPUs einen Spezialchip für eben diese Aufgabe vor. Google plant dafür eine Kooperation mit vielen Geräteherstellern und Hardwarezulieferern.

Artikel veröffentlicht am ,
Google stellt die Edge TPU auf der Cloud Next 18 vor.
Google stellt die Edge TPU auf der Cloud Next 18 vor. (Bild: Google)

Um das Training von Machine-Learning-Modellen so weit wie möglich zu beschleunigen, arbeitet Google an den speziell für seine Cloud erstellten TPUs. Ein vergleichsweise kleiner Ableger dieser Chips soll als Edge-TPU künftig das Inferencing - also das Anwenden der Modelle - in sogenannten Edge-Geräten beschleunigen. Parallel dazu bietet Google den Dienst Cloud-IoT-Edge an, der für eine Verknüpfung weiterer Möglichkeiten zur Datenanalyse und -Verarbeitung in Googles Cloud Platform sorgen soll.

Stellenmarkt
  1. Inhouse IT-Consultant (m/w/d) für Kassen- und Warenwirtschaftsprozesse
    HIT Handelsgruppe GmbH & Co. KG, Grünen
  2. Specialist Network Deployment (m/w/d)
    Vodafone GmbH, Nürnberg, Unterföhring
Detailsuche

Zwar liegt die Verwendung der Edge-TPUs in Smarthome-Geräten sehr nahe, Google zielt mit seinem Angebot zurzeit aber noch hauptsächlich auf den Unternehmenseinsatz in sogenannten IoT-Gateways. Der Ankündigung zufolge sollen diese etwa in Fabriken, Lokomotiven oder gar in Ölfördertürmen eingesetzt werden. In diesem Umfeld dienen die Edge-TPUs dann sicher nicht für Aufgaben wie zur Spracherkennung, sondern sollen eher die anfallenden Daten verschiedener Sensoren mehr oder weniger in Echtzeit verarbeiten können.

Entwickler-Boards ab Oktober verfügbar

Um die Fähigkeiten der Edge-TPUs zu testen, verspricht Google interessierten Unternehmen und Entwicklern ein Evaluationsboard, das im kommenden Oktober verfügbar sein soll. Dieses besteht einerseits aus einem sogenannten System-on-Module (SOM) mit dem SoC i.MX 8M von NXP, also einem Quadcore-CPU mit ARM Cortex-A53 Kernen, und der GC7000 Grafikeinheit. Genutzt werden können ebenso 1 GByte LPDDR4 Speicher und 8 GByte eMMC-Flashspeicher. Hinzu kommen noch Dual-Band-WLAN und Bluetooth 4.1 und natürlich die Edge-TPU selbst als Coprozessor.

  • Die Edge-TPU im Entwicklerboard (Bild: Google)
  • Die Edge-TPU im Entwicklerboard (Bild: Google)
  • Die Edge-TPU ist sehr klein. (Bild: Google)
  • Die Edge-TPU gibt es auch als USB-C-Stick. (Bild: Google)
  • Zur Edge-TPU gibt es auch den Dienst Cloud Iot Edge. (Bild: Google)
Die Edge-TPU im Entwicklerboard (Bild: Google)

Das SOM lässt sich auf ein Basis-Board stecken, das über eine Vielzahl von Peripherie-Anschlüssen verfügt. Dazu gehören USB-C OTG, USB-C Power, Micro-USB-B, USB-A 3.0, Gigabit-Ethernet, eine Klinkenbuchse, 40-Pin GPIO, HDMI 2.0 sowie FFC-Connectoren für DSI und CSI2. Wem das alles zu viel Hardware ist, der kann wahlweise auch auf den Edge TPU Accelerator zurückgreifen. Dabei handelt es sich um einen kleinen USB-C-Stick mit Edge TPU. Der soll an jeden Linux-Rechner angeschlossen werden können.

Golem Akademie
  1. Netzwerktechnik Kompaktkurs: virtueller Fünf-Tage-Workshop
    6.–10. Dezember 2021, virtuell
  2. Penetration Testing Fundamentals: virtueller Zwei-Tage-Workshop
    17.–18. Januar 2022, Virtuell
Weitere IT-Trainings

Zusätzlich zu NXP arbeitet Google für den Einsatz seiner Edge-TPUs noch mit ARM und den Gatewayherstellern Accton, Harting, Hitachi Vantara, Nexcom und Nokia zusammen. Für Edge-Computing-Technik kooperiert Google darüber hinaus mit Adlink, Kelvin, Olea Edge Analytics, Smart Catch und Trax.

Zum Anwenden der Modelle setzt Google mit Tensorflow Lite auf eine spezielle Variante seines Machine-Learning-Frameworks, das für den Einsatz auf Mobil- und Embedded-Geräten optimiert ist. Die Edge-TPU soll mit Android oder Linux-Systemen genutzt werden können. Wahrscheinlich dient die erst vor kurzem öffentlich vorgestellte Linux-Kernel-Erweiterung Gasket zur Hardware-Unterstützung der Edge-TPU.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Bitcoin und Co.
Kryptowährungen stürzen ab

Bitcoin, Ether und andere Kryptowährungen haben ein schlechtes Wochenende hinter sich. Bitcoin liegt fast 20 Prozent unter dem Wert der Vorwoche.

Bitcoin und Co.: Kryptowährungen stürzen ab
Artikel
  1. Virtueller Netzbetreiber: Lycamobile ist in Deutschland insolvent
    Virtueller Netzbetreiber
    Lycamobile ist in Deutschland insolvent

    Lycamobile im Netz von Vodafone ist pleite. Der Versuch, über eine Tochter in Irland keine Umsatzsteuer in Deutschland zu zahlen, ist gescheitert.

  2. Arbeiten bei SAP: Nur die Gassi-App geht grad nicht
    Arbeiten bei SAP
    Nur die Gassi-App geht grad nicht

    SAP bietet seinen Mitarbeitern einiges. Manchen mag das zu viel sein, aber die geringe Fluktuation spricht für das Softwareunternehmen.
    Von Elke Wittich

  3. VATM: Telekommunikationsverband will Bundesnetzagentur aufspalten
    VATM
    Telekommunikationsverband will Bundesnetzagentur aufspalten

    Die beiden großen Telekommunikationsverbände VATM und Breko sind hinsichtlich einer Spaltung der Bundesnetzagentur gespalten.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Bosch Professional Werkzeug und Zubehör • Corsair Virtuoso RGB Wireless Gaming-Headset 187,03€ • Noiseblocker NB-e-Loop X B14-P ARGB 24,90€ • ViewSonic VX2718-2KPC-MHD (WQHD, 165 Hz) 229€ • Alternate (u. a. Patriot Viper VPN100 2 TB SSD 191,90€) [Werbung]
    •  /