Glow: Facebook legt Compiler für KI-Beschleuniger offen

Mit Glow will Facebook ein einheitliches Framework zum Beschleunigen von KI-Modellen erstellen. Der erste Glow-Compiler für ein dediziertes Hardware-Backend ist nun verfügbar. In der Linux-Community sorgte die Hardware-Unterstützung für Diskussionen.

Artikel veröffentlicht am ,
In Facebooks Rechenzentren werden auch KI-Beschleuniger genutzt.
In Facebooks Rechenzentren werden auch KI-Beschleuniger genutzt. (Bild: Facebook)

Facebook hat ein erstes experimentelles Backend für sein Glow-Projekt als Open Source veröffentlicht. Bei Glow handelt es sich um eine Sammlung von Compilern samt Laufzeitumgebung, die zum Beschleunigen verschiedener Bereiche des maschinellen Lernens gedacht sind. Das nun verfügbare Backend dient zur Verwendung des Goya-Inference-Beschleunigers des Herstellers Habana Labs. Damit lässt sich das Anwenden fertiger Modelle beschleunigen.

Stellenmarkt
  1. Teamleiter (m/w/d) Informationsmanagement SAP BW & SAP Basis
    Radeberger Gruppe KG, Frankfurt am Main
  2. Informatiker*in, Informationstechniker*in, Elektrotechniker*in mit Masterabschluss o. ä. (w/m/d)
    DLR Deutsches Zentrum für Luft- und Raumfahrt e.V., Oberpfaffenhofen
Detailsuche

Die Hardware-Unterstützung für den Goya-Beschleuniger im Linux-Kernel hatte in der Community für viele größere Diskussionen und vor allem für harsche Kritik an der Umsetzung gesorgt. Vor allem die Betreuer und Entwickler des Grafikstacks des Linux-Kernels kritisierten, dass der fehlende Zwang zu einem freien Userspace-Stack dieser Hardware für eine Vielzahl von Problemen sorgen könnte, weil die Funktion der Hardware nicht vollständig verstanden werden kann.

Große Ähnlichkeiten zum Grafikstack

Für den Grafikstack des Hauptzweigs des Linux-Kernels ist die freie Verfügbarkeit der Userspace-Komponenten eine zwingende Voraussetzung zur Aufnahme. Da mit Mesa auch eine kanonische Implementierung des Userspace existiert, können zudem sowohl Kernel- als auch Userspace der Treiber vergleichsweise einfach größeren Veränderungen unterzogen werden. Mit vielen verschiedenen und bisher auch oft proprietären Userspace-Implementierungen der KI-Beschleuniger ist solch ein Vorgehen viel schwieriger, auch wenn der Linux-Kernel ein einheitliches Subsystem für diese Art Hardware bekommen soll.

Auch an dem nun verfügbaren Backend für Glow zeigt sich, dass die KI-Beschleuniger sehr nah verwandt mit der Funktion und dem Aufbau der GPUs sind. Immerhin setzen die Entwickler von Glow ebenso wie die Grafiktreiber-Entwickler auf LLVM als Grundlage für den Compiler und eine Art Zwischenschicht zwischen einer Schnittstelle für Nutzer und der Hardware selbst.

Golem Akademie
  1. OpenShift Installation & Administration
    31. Januar-2. Februar 2022, online
  2. Scrum Product Owner: Vorbereitung auf den PSPO I (Scrum.org)
    24.-25. November 2021, online
  3. Terraform mit AWS
    14.-15. Dezember 2021, online
Weitere IT-Trainings

Unter anderem wegen dieser Ähnlichkeiten hatte der Betreuer des Grafik-Subsystems des Linux-Kernels, David Airlie, vorgeschlagen, eine einheitliche Open-Source-Alternative zur Cuda-Bibliothek von Nvidia zu schaffen. Diese Arbeiten müssten nicht auf GPUs beschränkt bleiben, sondern könnten theoretisch auch auf Beschleunigerhardware wie jene von Habana Labs erweitert werden. Dass dies mittelfristig geschieht, ist derzeit aber sehr unwahrscheinlich, da sich die Interessen von Herstellern und Industrie einerseits und der kleineren Community andererseits gegenüberstehen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Microsoft
Das nächste große Update für Windows 10 kommt im November

Die Version 21H2 wurde wohl auch wegen Windows 11 etwas nach hinten verschoben. Der Patch soll nun aber im November für Windows 10 kommen.

Microsoft: Das nächste große Update für Windows 10 kommt im November
Artikel
  1. Silence S04: Günstiges Elektroauto mit herausnehmbaren Akku vorgestellt
    Silence S04
    Günstiges Elektroauto mit herausnehmbaren Akku vorgestellt

    Beim Elektroauto Silence S04 kann der Nutzer den Akku selbst wechseln, wenn dieser leergefahren ist.

  2. Arduino und Python: Bastler nimmt Audiokassette als Speichermedium für Retro-PC
    Arduino und Python
    Bastler nimmt Audiokassette als Speichermedium für Retro-PC

    Die Kassette kann nicht nur Lieder speichern, sondern auch Bitmuster. Ein Bastler baut dafür eine Schnittstelle mit 1,5 KBit/s Datenrate.

  3. Truth Social: Trumps soziales Netz bekommt Probleme mit Hackern und Lizenz
    Truth Social
    Trumps soziales Netz bekommt Probleme mit Hackern und Lizenz

    Hacker starten in Trumps-Netzwerk einen "Online-Krieg gegen Hass" mit Memes. Der Code scheint illegal von Mastodon übernommen worden zu sein.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • AOC CQ32G2SE/BK 285,70€ • Dell Alienware AW2521H 360 Hz 499€ • Corsair Vengeance RGB PRO SL 64-GB-Kit 3600 253,64€ • DeepCool Castle 360EX 109,90€ • Phanteks Glacier One 240MP 105,89€ • Seagate SSDs & HDDs günstiger • Alternate (u. a. Thermaltake Core P3 TG Snow Ed. 121,89€) [Werbung]
    •  /