Abo
  • Services:

Project Trillium: ARM integriert Nvidias DLA für AI-Geräte

Wer künftig Chips mit ARM-Kernen entwickelt, kann darin auch Nvidias Deep Learning Accelerator verwenden. Passend dazu ist die TensorRT-Bibliothek nun Teil von Googles Tensorflow für eine höhere Leistung.

Artikel veröffentlicht am ,
ARM integriert Nvidias DLA
ARM integriert Nvidias DLA (Bild: ARM)

ARM und Nvidia arbeiten zusammen: Umfasste das Project Trillium bisher nur je eine IP für Machine Learning und eine für Object Detection von ARM selbst, so wird mit Nvidias Deep Learning Accelerator (DLA) nun auch eine offene Architektur für Inferencing eines weiteren Herstellers unterstützt.

Stellenmarkt
  1. Landeshauptstadt München, München
  2. ABB AG, Ladenburg

Hinter dem DLA verbirgt sich spezielle Hardware: Diese beschleunigt ein für einen bestimmten Zweck angelerntes Netz, um etwa spezifische Details eines eingelesenen Bildes zu erkennen. Für Training müssen weiterhin schnelle FPGAs, GPUs, TPUs oder allgemein ASICs verwendet werden. Das Project Trillium ist hingegen auf das Internet der Dinge, also sogenannte Edge-Devices, und unter anderem auch Smartphones ausgelegt. Denkbare Einsatzzwecke sind Kühlschränke oder Überwachungskameras.

Ursprünglich hatte Nvidia den Deep Learning Accelerator als Teil des Xavier-Tegra vorgestellt, einem SoC, das bei den Automotive-Plattformen Drive Xavier und dem leistungsstärkeren Drive Pegasus eingesetzt wird. Der DLA soll von einer künftigen Version von Nvidias TensorRT-Bibliothek unterstützt werden.

Das neue TensorRT 4, das ab April 2018 verfügbar sein soll, enthält diverse Verbesserungen: Es wurde in Googles Tensorflow 1.7 integriert, was in einer höheren Geschwindigkeit resultieren soll. Hinzu kommen Optimierungen für die Spracherkennungs-Software Kaldi. Überdies ist TensorRT 4 nun kompatibel zum Open-Source-AI-Industriestandard ONNX (Open Neural Network Exchange), dem auch Microsofts neues WinML-Framework (Windows Machine Learning) folgt.

Zu den beiden zusätzlichen GPUs auf dem Drive Pegasus äußerte sich Nvidia nicht, zumindest ein früheres Rendering zeigte aber GDDR6-Videospeicher. Somit ist anzunehmen, dass es sich um kommende Volta-Chips handelt. Die neue simplifizierte Darstellung erinnert an HBM2-Speicher, was aber nicht sein kann. Denn Nvidia verwendet diese Vereinfachung auch für das Drive PX2 (Lite), was zumindest im Falle eines Tesla Model S einen GP106-Chip mit GDDR5-Speicher nutzt.

Offenlegung: Golem.de hat auf Einladung von Nvidia an der GTC 2018 im kalifornischen San Jose teilgenommen. Die Reisekosten wurden zur Gänze von Nvidia übernommen. Unsere Berichterstattung ist davon nicht beeinflusst und bleibt gewohnt neutral und kritisch. Der Artikel ist, wie alle anderen auf unserem Portal, unabhängig verfasst und unterliegt keinerlei Vorgaben seitens Dritter.



Anzeige
Blu-ray-Angebote
  1. 34,99€

Folgen Sie uns
       


FritzOS 7 - Test

FritzOS 7 steckt voller sinnvoller Neuerungen: Im Test gefallen uns der einfach einzurichtende WLAN-Gastzugang und die praktische Mesh-Übersicht. Nachholbedarf gibt es aber noch bei der NAS-Funktion.

FritzOS 7 - Test Video aufrufen
Zahlen mit Smartphones im Alltagstest: Sparkassenkunden müssen nicht auf Google Pay neidisch sein
Zahlen mit Smartphones im Alltagstest
Sparkassenkunden müssen nicht auf Google Pay neidisch sein

In Deutschland gibt es mittlerweile mehrere Möglichkeiten, drahtlos mit dem Smartphone zu bezahlen. Wir haben Google Pay mit der Sparkassen-App Mobiles Bezahlen verglichen und festgestellt: In der Handhabung gleichen sich die Apps zwar, doch in den Details gibt es einige Unterschiede.
Ein Test von Tobias Költzsch

  1. Smartphone Auch Volksbanken führen mobiles Bezahlen ein
  2. Bezahldienst ausprobiert Google Pay startet in Deutschland mit vier Finanzdiensten

Network Slicing: 5G gefährdet die Netzneutralität - oder etwa nicht?
Network Slicing
5G gefährdet die Netzneutralität - oder etwa nicht?

Ein Digitalexperte warnt vor einem "deutlichen Spannungsverhältnis" zwischen der technischen Basis des kommenden Mobilfunkstandards 5G und dem Prinzip des offenen Internets. Die Bundesnetzagentur gibt dagegen vorläufig Entwarnung.
Ein Bericht von Stefan Krempl

  1. Frequenzauktion Auch die SPD will ein erheblich besseres 5G-Netz
  2. T-Mobile US Deutsche Telekom gibt 3,5 Milliarden US-Dollar für 5G aus
  3. Ericsson Swisscom errichtet standardisiertes 5G-Netz in Burgdorf

Leistungsschutzrecht: So viel Geld würden die Verlage von Google bekommen
Leistungsschutzrecht
So viel Geld würden die Verlage von Google bekommen

Das europäische Leistungsschutzrecht soll die Zukunft der Presse sichern. Doch in Deutschland würde derzeit ein einziger Verlag fast zwei Drittel der Einnahmen erhalten.
Eine Analyse von Friedhelm Greis

  1. Netzpolitik Willkommen im europäischen Filternet
  2. Urheberrecht Europaparlament für Leistungsschutzrecht und Uploadfilter
  3. Leistungsschutzrecht/Uploadfilter Wikipedia protestiert gegen Urheberrechtsreform

    •  /