Abo
  • IT-Karriere:

Glow: Facebook legt Compiler für KI-Beschleuniger offen

Mit Glow will Facebook ein einheitliches Framework zum Beschleunigen von KI-Modellen erstellen. Der erste Glow-Compiler für ein dediziertes Hardware-Backend ist nun verfügbar. In der Linux-Community sorgte die Hardware-Unterstützung für Diskussionen.

Artikel veröffentlicht am ,
In Facebooks Rechenzentren werden auch KI-Beschleuniger genutzt.
In Facebooks Rechenzentren werden auch KI-Beschleuniger genutzt. (Bild: Facebook)

Facebook hat ein erstes experimentelles Backend für sein Glow-Projekt als Open Source veröffentlicht. Bei Glow handelt es sich um eine Sammlung von Compilern samt Laufzeitumgebung, die zum Beschleunigen verschiedener Bereiche des maschinellen Lernens gedacht sind. Das nun verfügbare Backend dient zur Verwendung des Goya-Inference-Beschleunigers des Herstellers Habana Labs. Damit lässt sich das Anwenden fertiger Modelle beschleunigen.

Stellenmarkt
  1. Johann Wolfgang Goethe-Universität Frankfurt, Frankfurt am Main
  2. BWI GmbH, Bonn

Die Hardware-Unterstützung für den Goya-Beschleuniger im Linux-Kernel hatte in der Community für viele größere Diskussionen und vor allem für harsche Kritik an der Umsetzung gesorgt. Vor allem die Betreuer und Entwickler des Grafikstacks des Linux-Kernels kritisierten, dass der fehlende Zwang zu einem freien Userspace-Stack dieser Hardware für eine Vielzahl von Problemen sorgen könnte, weil die Funktion der Hardware nicht vollständig verstanden werden kann.

Große Ähnlichkeiten zum Grafikstack

Für den Grafikstack des Hauptzweigs des Linux-Kernels ist die freie Verfügbarkeit der Userspace-Komponenten eine zwingende Voraussetzung zur Aufnahme. Da mit Mesa auch eine kanonische Implementierung des Userspace existiert, können zudem sowohl Kernel- als auch Userspace der Treiber vergleichsweise einfach größeren Veränderungen unterzogen werden. Mit vielen verschiedenen und bisher auch oft proprietären Userspace-Implementierungen der KI-Beschleuniger ist solch ein Vorgehen viel schwieriger, auch wenn der Linux-Kernel ein einheitliches Subsystem für diese Art Hardware bekommen soll.

Auch an dem nun verfügbaren Backend für Glow zeigt sich, dass die KI-Beschleuniger sehr nah verwandt mit der Funktion und dem Aufbau der GPUs sind. Immerhin setzen die Entwickler von Glow ebenso wie die Grafiktreiber-Entwickler auf LLVM als Grundlage für den Compiler und eine Art Zwischenschicht zwischen einer Schnittstelle für Nutzer und der Hardware selbst.

Unter anderem wegen dieser Ähnlichkeiten hatte der Betreuer des Grafik-Subsystems des Linux-Kernels, David Airlie, vorgeschlagen, eine einheitliche Open-Source-Alternative zur Cuda-Bibliothek von Nvidia zu schaffen. Diese Arbeiten müssten nicht auf GPUs beschränkt bleiben, sondern könnten theoretisch auch auf Beschleunigerhardware wie jene von Habana Labs erweitert werden. Dass dies mittelfristig geschieht, ist derzeit aber sehr unwahrscheinlich, da sich die Interessen von Herstellern und Industrie einerseits und der kleineren Community andererseits gegenüberstehen.



Anzeige
Spiele-Angebote
  1. (-79%) 3,20€
  2. (-75%) 3,75€
  3. 4,32€
  4. 32,99€

Folgen Sie uns
       


Phase One IQ4 ausprobiert

Die Phase One IQ4 ist das Mittelformatsystem mit der höchsten Auflösung, das zur Zeit erhältlich ist. Wir haben die Profikamera getestet.

Phase One IQ4 ausprobiert Video aufrufen
Transport Fever 2 angespielt: Wachstum ist doch nicht alles
Transport Fever 2 angespielt
Wachstum ist doch nicht alles

Wesentlich mehr Umfang, bessere Übersicht dank neuer Benutzerführung und eine Kampagne mit 18 Missionen: Das Schweizer Entwicklerstudio Urban Games hat Golem.de das Aufbauspiel Transport Fever 2 vorgestellt - bei einer Bahnfahrt.
Von Achim Fehrenbach

  1. Mordhau angespielt Die mit dem Schwertknauf zuschlagen
  2. Bus Simulator angespielt Zwischen Bodenschwelle und Haltestelle
  3. Bright Memory angespielt Brachialer PC-Shooter aus China

Endpoint Security: IT-Sicherheit ist ein Cocktail mit vielen Zutaten
Endpoint Security
IT-Sicherheit ist ein Cocktail mit vielen Zutaten

Tausende Geräte in hundert verschiedenen Modellen mit Dutzenden unterschiedlichen Betriebssystemen. Das ist in großen Unternehmen Alltag und stellt alle, die für die IT-Sicherheit zuständig sind, vor Herausforderungen.
Von Anna Biselli

  1. Datendiebstahl Kundendaten zahlreicher deutscher Firmen offen im Netz
  2. Metro & Dish Tisch-Reservierung auf Google übernehmen
  3. Identitätsdiebstahl SIM-Dieb kommt zehn Jahre in Haft

Radeon RX 5700 (XT) im Test: AMDs günstige Navi-Karten sind auch super
Radeon RX 5700 (XT) im Test
AMDs günstige Navi-Karten sind auch super

Die Radeon RX 5700 (XT) liefern nach einer Preissenkung vor dem Launch eine gute Leistung ab: Wer auf Hardware-Raytracing verzichten kann, erhält zwei empfehlenswerte Navi-Grafikkarten. Bei der Energie-Effizienz hapert es aber trotz moderner 7-nm-Technik immer noch etwas.
Ein Test von Marc Sauter

  1. Navi 14 Radeon RX 5600 (XT) könnte 1.536 Shader haben
  2. Radeon RX 5700 (XT) AMD senkt Navi-Preise noch vor Launch
  3. AMD Freier Navi-Treiber in Mesa eingepflegt

    •  /