Ngraph: Intel veröffentlicht Compiler für Deep Learning

Ngraph ist ein neuer Framework-unabhängiger Modell-Compiler für Deep Learning von Intel. Mit Frameworks wie Tensorflow oder CNTK erzeugter Code lässt sich mit Ngraph in Zukunft für Intel-Chips, Nvidia GPUs, FPGAs und mögliche weitere Deep-Learning-Hardware übersetzen.

Artikel veröffentlicht am , Kristian Kißling/Linux Magazin
Intels Multifunktionscompiler für Deep Learning verspricht Forschern Erleichterung.
Intels Multifunktionscompiler für Deep Learning verspricht Forschern Erleichterung. (Bild: startgazer2020, flickr.com/CC-BY 2.0)

Wissenschaftler sollen sich dank des neuen Compilers Ngraph von Intel künftig laut Hersteller ganz auf ihre Deep-Learning-Modelle konzentrieren können. Nicht mehr beschäftigen soll die Forscher dagegen die Frage, wie sie ihre Modelle speziell auf bestimmte Geräte und optimierte Kernel anpassen müssen. Laut Intel ist es bislang recht mühsam, einen Algorithmus auf ein neues oder aktualisiertes Gerät zu portieren.

Stellenmarkt
  1. Softwaretester:in
    Tele Columbus AG, Leipzig
  2. Wissenschaftliche Mitarbeiterin / Wissenschaftlicher Mitarbeiter (w/m/d) oder Akademische Rätin ... (m/w/d)
    Universität Passau, Passau
Detailsuche

Ngraph soll nicht nur die spezialisierten Kernel und wichtige Bibliotheken bereitstellen, sondern auch beim Kompilieren auf Effizienz achten. Konkret kümmert sich ein Intermediate Representation Layer (IR) um die Hardware-Abstraktion. Dabei verknüpfen spezielle Verbindungen (Bridges) die Frameworks mit dem Ngraph-Kern. Transformer heißen hingegen die Zwischenstücke zwischen dem Ngraph-Kern und der unterschiedlichen Deep-Learning-Hardware.

Vielzahl unterstützter Hardware und Frameworks

Bislang unterstützt Intel vor allem hauseigene Architekturen wie x86, Intel Xeon oder Xeon Phi sowie Intel Nervana, den hauseigenen Neural Network Processor. Die Arbeit am Support für Nvidia Cu-DNN sei noch nicht abgeschlossen, heißt es. Während Intel in der Mitteilung auch Support für FPGAs ankündigt, bleibt andere Hardware wie die von Konkurrent AMD offenbar außen vor. Theoretisch ließe sich die Software aber von anderen dahingehend ergänzen, sie steht unter der Apache-2-Lizenz.

Einige Frameworks wie Tensorflow, MX-Net und Neon unterstützt Ngraph zurzeit direkt, andere über ONNX, ein Deep Learning Model Exchange Format. Zu Letzterem zählen CNTK, Pytorch und Caffe2. Bislang läuft Ngraph dabei auf Ubuntu 16.04 (mit Clang 3.9) und Centos 7.4 (GCC 4.8) und - experimentell - auf Intels eigenem Clear-Linux (Clang 5.0.1). Windows-Support gibt es bislang nicht. Eine wissenschaftliche Arbeit zu den technischen Details der neuen Software steht auf Arxiv.org bereit.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Ukrainekrieg
Erster Einsatz einer US-Kamikazedrohne dokumentiert

Eine Switchblade-Drohne hat offenbar einen russischen Panzer getroffen. Dessen Besatzung soll sich auf dem Turm mit Alkohol vergnügt haben.

Ukrainekrieg: Erster Einsatz einer US-Kamikazedrohne dokumentiert
Artikel
  1. Heimnetze: Die Masche mit dem Nachbarn
    Heimnetze
    Die Masche mit dem Nachbarn

    Heimnetze sind Inseln mit einer schmalen und einsamen Anbindung zum Internet. Warum eine Öffnung dieser strengen Isolation sinnvoll ist.
    Von Jochen Demmer

  2. Deutsche Bahn: 9-Euro-Ticket gilt nicht in allen Nahverkehrszügen
    Deutsche Bahn  
    9-Euro-Ticket gilt nicht in allen Nahverkehrszügen

    So einfach ist es dann noch nicht: Das 9-Euro-Ticket gilt nicht in allen Zügen, die mit einem Nahverkehrsticket genutzt werden können.

  3. Übernahme: Twitter zahlt Millionenstrafe und Musk schichtet um
    Übernahme
    Twitter zahlt Millionenstrafe und Musk schichtet um

    Die US-Regierung sieht Twitter als Wiederholungstäter bei Datenschutzverstößen und Elon Musk will sich das Geld für die Übernahme nun anders besorgen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Mindstar (u. a. Palit RTX 3050 Dual 319€, MSI MPG X570 Gaming Plus 119€ und be quiet! Shadow Rock Slim 2 29€) • Days of Play (u. a. PS5-Controller 49,99€) • Viewsonic-Monitore günstiger • Alternate (u. a. Razer Tetra 12€) • Marvel's Avengers PS4 9,99€ • Sharkoon Light² 200 21,99€ [Werbung]
    •  /