Machine Learning: LLVM könnte Tensor-Erweiterungen bekommen

Zur Beschleunigung von Machine Learning gibt es inzwischen Hardware-Support für Tensoren. LLVM könnte dies in Compilern unterstützen.

Artikel veröffentlicht am ,
Das LLVM-Maskottchen ist ein Drache.
Das LLVM-Maskottchen ist ein Drache. (Bild: Pixabay)

Ein Forschungsteam von Intel, Amazons Web Services (AWS) sowie der University of Illinois at Urbana-Champaign (UIUC), an der das LLVM-Projekt entstanden ist, planen eine Vereinheitlichung von Tensor-Operationen in dem Compiler-Projekt LLVM. Primäres Ziel und Fokus der Arbeiten ist dabei eine bessere Unterstützung von Machine-Learning-Aufgaben, aber auch andere Berechnungen könnten damit vereinfacht werden.

Zur Unterstützung und vor allem für die Beschleunigung von Machine Learning setzen Hardware-Hersteller schon jetzt auf einige Besonderheiten in ihren Chips. Das Team zählt in seiner Ankündigung etwa verschiedene Befehlssätze und Einheiten in Hardware auf wie Intel AMX, Power MMA, Nvidias Tensor-Kerne, AMDs Matrix-Kerne oder Qualcomms HVX. Hinzu komme dann auch noch dedizierte Hardware wie von Nvidia oder AWS.

Mit einer guten und vor allem breiten LLVM-Unterstützung könnten diese Hersteller entsprechende Compiler-Backends einfacher für ihre eigene Hardware umsetzen, heißt es. Dazu könnte etwa der bereits in LLVM vorhandene Support für Vektor- und Matrix-Operationen auf Tensoren übertragen beziehungsweise verallgemeinert werden. Der wohl wichtigste Teil in Bezug auf LLVM ist, dass das Projekt so gestaltet ist, dass die eigentlichen Hardware-Ziele vergleichsweise leicht ausgetauscht werden können.

Ziel der nun vorgestellten Initiative ist ein Framework, das solchen Code für Tensoren generieren kann. Grundlage dafür soll der klassische LLVM-Code sein, ebenso wie die im vergangenen Jahr vorgestellte MLIR. Eigenen Aussagen zufolge arbeitet das Team zusammen mit AWS, Intel, IBM und Qualcomm an einem Prototyp. In dem nun veröffentlichten Vorschlag wird die LLVM IR um Tensor-Operationen erweitert, was TLX (Tensor LLVM eXtensions) genannt wird.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Politische Ansichten auf Google Drive
Letzte Generation mit Datenschutz-Super-GAU

Die Aktivisten der Letzten Generation haben Daten von Unterstützern mitsamt politischer Meinung und Gefängnisbereitschaft ungeschützt auf Google Drive gelagert.

Politische Ansichten auf Google Drive: Letzte Generation mit Datenschutz-Super-GAU
Artikel
  1. Entlassungswelle in den USA: Es könnte eine Chance für Deutschland sein
    Entlassungswelle in den USA
    Es könnte eine Chance für Deutschland sein

    In den USA entlassen IT-Firmen Zehntausende Beschäftigte. Ist das der Anfang einer Krise in der Technologiebranche, die auch deutsche Firmen trifft?
    Ein Bericht von Peter Ilg

  2. Suchmaschine: Bing mit ChatGPT war für kurze Zeit online
    Suchmaschine
    Bing mit ChatGPT war für kurze Zeit online

    Microsoft will ChatGPT in die Suchmaschine Bing einbauen. Was uns erwartet, konnten einige Nutzer kurzfristig sehen.

  3. Nach Prämiensenkung: Weniger Marktanteil für Elektroautos 2023 erwartet
    Nach Prämiensenkung
    Weniger Marktanteil für Elektroautos 2023 erwartet

    Die Förderprämien für Elektroautos wurden gesenkt, was nach Ansicht der Autohersteller zu einem Rückgang des Marktanteils führen wird.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Roccat Magma + Burst Pro 59€ • Roccat Vulcan 121 89,99€ • Gigabyte B650 Gaming X AX 185,99€ • Alternate: Toshiba MG10 20 TB 299€ • Alternate Weekend Sale • MindStar: Fastro MS200 SSD 2TB 95€ • Mindfactory DAMN-Deals: Grakas, CPUs & Co. • RAM-Tiefstpreise • PCGH Cyber Week [Werbung]
    •  /