• IT-Karriere:
  • Services:

Project Trillium: ARM integriert Nvidias DLA für AI-Geräte

Wer künftig Chips mit ARM-Kernen entwickelt, kann darin auch Nvidias Deep Learning Accelerator verwenden. Passend dazu ist die TensorRT-Bibliothek nun Teil von Googles Tensorflow für eine höhere Leistung.

Artikel veröffentlicht am ,
ARM integriert Nvidias DLA
ARM integriert Nvidias DLA (Bild: ARM)

ARM und Nvidia arbeiten zusammen: Umfasste das Project Trillium bisher nur je eine IP für Machine Learning und eine für Object Detection von ARM selbst, so wird mit Nvidias Deep Learning Accelerator (DLA) nun auch eine offene Architektur für Inferencing eines weiteren Herstellers unterstützt.

Stellenmarkt
  1. Allianz Deutschland AG, Stuttgart
  2. Energiedienst Holding AG, Rheinfelden (Baden)

Hinter dem DLA verbirgt sich spezielle Hardware: Diese beschleunigt ein für einen bestimmten Zweck angelerntes Netz, um etwa spezifische Details eines eingelesenen Bildes zu erkennen. Für Training müssen weiterhin schnelle FPGAs, GPUs, TPUs oder allgemein ASICs verwendet werden. Das Project Trillium ist hingegen auf das Internet der Dinge, also sogenannte Edge-Devices, und unter anderem auch Smartphones ausgelegt. Denkbare Einsatzzwecke sind Kühlschränke oder Überwachungskameras.

Ursprünglich hatte Nvidia den Deep Learning Accelerator als Teil des Xavier-Tegra vorgestellt, einem SoC, das bei den Automotive-Plattformen Drive Xavier und dem leistungsstärkeren Drive Pegasus eingesetzt wird. Der DLA soll von einer künftigen Version von Nvidias TensorRT-Bibliothek unterstützt werden.

Das neue TensorRT 4, das ab April 2018 verfügbar sein soll, enthält diverse Verbesserungen: Es wurde in Googles Tensorflow 1.7 integriert, was in einer höheren Geschwindigkeit resultieren soll. Hinzu kommen Optimierungen für die Spracherkennungs-Software Kaldi. Überdies ist TensorRT 4 nun kompatibel zum Open-Source-AI-Industriestandard ONNX (Open Neural Network Exchange), dem auch Microsofts neues WinML-Framework (Windows Machine Learning) folgt.

Zu den beiden zusätzlichen GPUs auf dem Drive Pegasus äußerte sich Nvidia nicht, zumindest ein früheres Rendering zeigte aber GDDR6-Videospeicher. Somit ist anzunehmen, dass es sich um kommende Volta-Chips handelt. Die neue simplifizierte Darstellung erinnert an HBM2-Speicher, was aber nicht sein kann. Denn Nvidia verwendet diese Vereinfachung auch für das Drive PX2 (Lite), was zumindest im Falle eines Tesla Model S einen GP106-Chip mit GDDR5-Speicher nutzt.

Offenlegung: Golem.de hat auf Einladung von Nvidia an der GTC 2018 im kalifornischen San Jose teilgenommen. Die Reisekosten wurden zur Gänze von Nvidia übernommen. Unsere Berichterstattung ist davon nicht beeinflusst und bleibt gewohnt neutral und kritisch. Der Artikel ist, wie alle anderen auf unserem Portal, unabhängig verfasst und unterliegt keinerlei Vorgaben seitens Dritter.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Hardware-Angebote
  1. 555,55€ (zzgl. Versandkosten)
  2. (reduzierte Überstände, Restposten & Co.)

Folgen Sie uns
       


Macbook Pro 16 Zoll - Test

Das Macbook Pro 16 stellt sich in unserem Test als eine echte Verbesserung dar. Das liegt auch daran, dass Apple einen Schritt zurückgeht, das Butterfly-Keyboard fallenlässt und die physische Escape-Taste zurückbringt.

Macbook Pro 16 Zoll - Test Video aufrufen
Echo Dot mit Uhr und Nest Mini im Test: Amazon hängt Google ab
Echo Dot mit Uhr und Nest Mini im Test
Amazon hängt Google ab

Amazon und Google haben ihre kompakten smarten Lautsprecher überarbeitet. Wir haben den Nest Mini mit dem neuen Echo Dot mit Uhr verglichen. Google hat es sichtlich schwer, konkurrenzfähig zu Amazon zu bleiben.
Ein Test von Ingo Pakalski

  1. Digitale Assistenten Amazon verkauft dreimal mehr smarte Lautsprecher als Google
  2. Googles Hardware-Chef Osterloh weist Besuch auf smarte Lautsprecher hin
  3. Telekom Smart Speaker im Test Der smarte Lautsprecher, der mit zwei Zungen spricht

Smarter Akku-Lautsprecher im Praxistest: Bose zeigt Sonos, wie es geht
Smarter Akku-Lautsprecher im Praxistest
Bose zeigt Sonos, wie es geht

Der Portable Home Speaker ist Boses erster smarter Lautsprecher mit Akkubetrieb. Aus dem kompakten Gehäuse wird ein toller Klang und eine lange Akkulaufzeit geholt. Er kann anders als der Sonos Move sinnvoll als smarter Lautsprecher verwendet werden. Ganz ohne Schwächen ist er aber nicht.
Ein Praxistest von Ingo Pakalski

  1. ANC-Kopfhörer Bose macht die Noise Cancelling Headphones 700 besser
  2. Anti-Schnarch-Kopfhörer Bose stellt Sleepbuds wegen Qualitätsmängeln ein
  3. Noise Cancelling Headphones 700 im Test Boses bester ANC-Kopfhörer sticht Sony vielfach aus

Jobs: Spielebranche sucht Entwickler (m/w/d)
Jobs
Spielebranche sucht Entwickler (m/w/d)

Die Hälfte aller Gamer ist weiblich. An der Entwicklung von Spielen sind aber nach wie vor deutlich weniger Frauen beteiligt.
Von Daniel Ziegener

  1. Medizinsoftware Forscher finden "rassistische Vorurteile" in Algorithmus
  2. Mordhau Toxische Spieler und Filter für Frauenhasser

    •  /