• IT-Karriere:
  • Services:

Glow: Facebook legt Compiler für KI-Beschleuniger offen

Mit Glow will Facebook ein einheitliches Framework zum Beschleunigen von KI-Modellen erstellen. Der erste Glow-Compiler für ein dediziertes Hardware-Backend ist nun verfügbar. In der Linux-Community sorgte die Hardware-Unterstützung für Diskussionen.

Artikel veröffentlicht am ,
In Facebooks Rechenzentren werden auch KI-Beschleuniger genutzt.
In Facebooks Rechenzentren werden auch KI-Beschleuniger genutzt. (Bild: Facebook)

Facebook hat ein erstes experimentelles Backend für sein Glow-Projekt als Open Source veröffentlicht. Bei Glow handelt es sich um eine Sammlung von Compilern samt Laufzeitumgebung, die zum Beschleunigen verschiedener Bereiche des maschinellen Lernens gedacht sind. Das nun verfügbare Backend dient zur Verwendung des Goya-Inference-Beschleunigers des Herstellers Habana Labs. Damit lässt sich das Anwenden fertiger Modelle beschleunigen.

Stellenmarkt
  1. Bundeskriminalamt, Meckenheim
  2. unimed Abrechnungsservice für Kliniken und Chefärzte GmbH, Wadern

Die Hardware-Unterstützung für den Goya-Beschleuniger im Linux-Kernel hatte in der Community für viele größere Diskussionen und vor allem für harsche Kritik an der Umsetzung gesorgt. Vor allem die Betreuer und Entwickler des Grafikstacks des Linux-Kernels kritisierten, dass der fehlende Zwang zu einem freien Userspace-Stack dieser Hardware für eine Vielzahl von Problemen sorgen könnte, weil die Funktion der Hardware nicht vollständig verstanden werden kann.

Große Ähnlichkeiten zum Grafikstack

Für den Grafikstack des Hauptzweigs des Linux-Kernels ist die freie Verfügbarkeit der Userspace-Komponenten eine zwingende Voraussetzung zur Aufnahme. Da mit Mesa auch eine kanonische Implementierung des Userspace existiert, können zudem sowohl Kernel- als auch Userspace der Treiber vergleichsweise einfach größeren Veränderungen unterzogen werden. Mit vielen verschiedenen und bisher auch oft proprietären Userspace-Implementierungen der KI-Beschleuniger ist solch ein Vorgehen viel schwieriger, auch wenn der Linux-Kernel ein einheitliches Subsystem für diese Art Hardware bekommen soll.

Auch an dem nun verfügbaren Backend für Glow zeigt sich, dass die KI-Beschleuniger sehr nah verwandt mit der Funktion und dem Aufbau der GPUs sind. Immerhin setzen die Entwickler von Glow ebenso wie die Grafiktreiber-Entwickler auf LLVM als Grundlage für den Compiler und eine Art Zwischenschicht zwischen einer Schnittstelle für Nutzer und der Hardware selbst.

Unter anderem wegen dieser Ähnlichkeiten hatte der Betreuer des Grafik-Subsystems des Linux-Kernels, David Airlie, vorgeschlagen, eine einheitliche Open-Source-Alternative zur Cuda-Bibliothek von Nvidia zu schaffen. Diese Arbeiten müssten nicht auf GPUs beschränkt bleiben, sondern könnten theoretisch auch auf Beschleunigerhardware wie jene von Habana Labs erweitert werden. Dass dies mittelfristig geschieht, ist derzeit aber sehr unwahrscheinlich, da sich die Interessen von Herstellern und Industrie einerseits und der kleineren Community andererseits gegenüberstehen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Top-Angebote
  1. 299,00€
  2. 399€ (Bestpreis!)
  3. (u. a. Battlefleet Gothic: Armada 2 für 11,99€, Star Trek Bridge Crew für 6,66€, Rage 2 für...
  4. 89,99€

Folgen Sie uns
       


Halo (2001) - Golem retro_

2001 feierte der Master Chief im Klassiker Halo: Kampf um die Zukunft sein Debüt. Wir blicken zurück und merken, wie groß der Einfluss des Spiels wirklich ist.

Halo (2001) - Golem retro_ Video aufrufen
Nitropad im Test: Ein sicherer Laptop, der im Alltag kaum nervt
Nitropad im Test
Ein sicherer Laptop, der im Alltag kaum nervt

Das Nitropad schützt vor Bios-Rootkits oder Evil-Maid-Angriffen. Dazu setzt es auf die freie Firmware Coreboot, die mit einem Nitrokey überprüft wird. Das ist im Alltag erstaunlich einfach, nur Updates werden etwas aufwendiger.
Ein Praxistest von Moritz Tremmel und Sebastian Grüner

  1. Nitropad X230 Nitrokey veröffentlicht abgesicherten Laptop
  2. LVFS Coreboot-Updates sollen nutzerfreundlich werden
  3. Linux-Laptop System 76 verkauft zwei Laptops mit Coreboot

Akkutechnik: In Zukunft kommen Akkus mit weniger seltenen Rohstoffen aus
Akkutechnik
In Zukunft kommen Akkus mit weniger seltenen Rohstoffen aus

In unserer Artikelserie zu Akku-FAQs geht es diesmal um bessere Akkus, um mehr Akkus und um Akkus ohne seltene Rohstoffe. Den Wunderakku, der alles kann, den gibt es leider nicht. Mit Energiespeichern ohne Akku beschäftigen wir uns später in Teil 2 dieses Artikels.
Von Frank Wunderlich-Pfeiffer

  1. Elektroautos BASF baut Kathodenfabrik in Brandenburg
  2. Joint Venture Panasonic und Toyota bauen prismatische Zellen für E-Autos
  3. Elektromobilität EU-Kommission genehmigt europäisches Batterieprojekt

Videostreaming: Was an Prime Video und Netflix nervt
Videostreaming
Was an Prime Video und Netflix nervt

Eine ständig anders sortierte Watchlist, ein automatisch startender Stream oder fehlende Markierungen für Aboinhalte: Oft sind es nur Kleinigkeiten, die den Spaß am Streaming vermiesen - eine Hassliste.
Ein IMHO von Ingo Pakalski

  1. Dispatch Open-Source-Krisenmanagement à la Netflix
  2. Videostreaming Netflix integriert Top-10-Listen für Filme und TV-Serien
  3. WhatsOnFlix Smartphone-App für bessere Verwaltung der Netflix-Inhalte

    •  /