Project Trillium: ARM integriert Nvidias DLA für AI-Geräte

Wer künftig Chips mit ARM-Kernen entwickelt, kann darin auch Nvidias Deep Learning Accelerator verwenden. Passend dazu ist die TensorRT-Bibliothek nun Teil von Googles Tensorflow für eine höhere Leistung.

Artikel veröffentlicht am ,
ARM integriert Nvidias DLA
ARM integriert Nvidias DLA (Bild: ARM)

ARM und Nvidia arbeiten zusammen: Umfasste das Project Trillium bisher nur je eine IP für Machine Learning und eine für Object Detection von ARM selbst, so wird mit Nvidias Deep Learning Accelerator (DLA) nun auch eine offene Architektur für Inferencing eines weiteren Herstellers unterstützt.

Stellenmarkt
  1. Ingenieur SAP-Fachbetreuung (w/m/d)
    Netze BW GmbH, Stuttgart
  2. DevOps Engineer (w/m/d)
    mobilcom-debitel GmbH, Büdelsdorf
Detailsuche

Hinter dem DLA verbirgt sich spezielle Hardware: Diese beschleunigt ein für einen bestimmten Zweck angelerntes Netz, um etwa spezifische Details eines eingelesenen Bildes zu erkennen. Für Training müssen weiterhin schnelle FPGAs, GPUs, TPUs oder allgemein ASICs verwendet werden. Das Project Trillium ist hingegen auf das Internet der Dinge, also sogenannte Edge-Devices, und unter anderem auch Smartphones ausgelegt. Denkbare Einsatzzwecke sind Kühlschränke oder Überwachungskameras.

Ursprünglich hatte Nvidia den Deep Learning Accelerator als Teil des Xavier-Tegra vorgestellt, einem SoC, das bei den Automotive-Plattformen Drive Xavier und dem leistungsstärkeren Drive Pegasus eingesetzt wird. Der DLA soll von einer künftigen Version von Nvidias TensorRT-Bibliothek unterstützt werden.

Das neue TensorRT 4, das ab April 2018 verfügbar sein soll, enthält diverse Verbesserungen: Es wurde in Googles Tensorflow 1.7 integriert, was in einer höheren Geschwindigkeit resultieren soll. Hinzu kommen Optimierungen für die Spracherkennungs-Software Kaldi. Überdies ist TensorRT 4 nun kompatibel zum Open-Source-AI-Industriestandard ONNX (Open Neural Network Exchange), dem auch Microsofts neues WinML-Framework (Windows Machine Learning) folgt.

Golem Akademie
  1. C++ Programmierung Basics: virtueller Fünf-Tage-Workshop
    13.–17. Dezember 2021, virtuell
  2. Hands-on C# Programmierung: virtueller Zwei-Tage-Workshop
    1.–2. Dezember 2021, virtuell
Weitere IT-Trainings

Zu den beiden zusätzlichen GPUs auf dem Drive Pegasus äußerte sich Nvidia nicht, zumindest ein früheres Rendering zeigte aber GDDR6-Videospeicher. Somit ist anzunehmen, dass es sich um kommende Volta-Chips handelt. Die neue simplifizierte Darstellung erinnert an HBM2-Speicher, was aber nicht sein kann. Denn Nvidia verwendet diese Vereinfachung auch für das Drive PX2 (Lite), was zumindest im Falle eines Tesla Model S einen GP106-Chip mit GDDR5-Speicher nutzt.

Offenlegung: Golem.de hat auf Einladung von Nvidia an der GTC 2018 im kalifornischen San Jose teilgenommen. Die Reisekosten wurden zur Gänze von Nvidia übernommen. Unsere Berichterstattung ist davon nicht beeinflusst und bleibt gewohnt neutral und kritisch. Der Artikel ist, wie alle anderen auf unserem Portal, unabhängig verfasst und unterliegt keinerlei Vorgaben seitens Dritter.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Pornhub, Youporn, Mydirtyhobby
Gericht bestätigt Zugangsverbot für Pornoportale

Die Landesmedienanstalt NRW hat zu Recht gegen drei Pornoportale mit Sitz in Zypern ein Zugangsverbot verhängt.

Pornhub, Youporn, Mydirtyhobby: Gericht bestätigt Zugangsverbot für Pornoportale
Artikel
  1. Zip: Ratenzahlung in Microsoft Edge empört die Community
    Zip
    Ratenzahlung in Microsoft Edge empört die Community

    Die App Zip wird seit Microsoft Edge 96 standardmäßig aktiviert. Diese bietet Ratenzahlung an, schürt aber nur Hass in der Community.

  2. Kompakter Einstieg in die Netzwerktechnik
     
    Kompakter Einstieg in die Netzwerktechnik

    Die Golem Akademie bietet Admins und IT-Sicherheitsbeauftragten in einem Fünf-Tage-Workshop einen umfassenden Überblick über Netzwerktechnologien und -konzepte.
    Sponsored Post von Golem Akademie

  3. Razer Zephyr im Test: Gesichtsmaske mit Stil bringt nicht viel
    Razer Zephyr im Test
    Gesichtsmaske mit Stil bringt nicht viel

    Einmal Cyberpunk mit Beleuchtung bitte: Tragen wir Razers Zephyr in der U-Bahn, fallen wir auf. Allerdings ist das Produkt nicht ausgereift.
    Ein Test von Oliver Nickel

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Last Minute Angebote bei Amazon • Crucial-RAM zu Bestpreisen (u. a. 16GB Kit DDR4-3600 73,99€) • HP 27" FHD 165Hz 199,90€ • Razer Iskur X Gaming-Stuhl 239,99€ • Adventskalender bei MM/Saturn (u. a. Surface Pro 7+ 849€) • Alternate (u. a. Adata 1TB PCIe-4.0-SSD für 129,90€) [Werbung]
    •  /