Machine Learning: LLVM könnte Tensor-Erweiterungen bekommen

Zur Beschleunigung von Machine Learning gibt es inzwischen Hardware-Support für Tensoren. LLVM könnte dies in Compilern unterstützen.

Artikel veröffentlicht am ,
Das LLVM-Maskottchen ist ein Drache.
Das LLVM-Maskottchen ist ein Drache. (Bild: Pixabay)

Ein Forschungsteam von Intel, Amazons Web Services (AWS) sowie der University of Illinois at Urbana-Champaign (UIUC), an der das LLVM-Projekt entstanden ist, planen eine Vereinheitlichung von Tensor-Operationen in dem Compiler-Projekt LLVM. Primäres Ziel und Fokus der Arbeiten ist dabei eine bessere Unterstützung von Machine-Learning-Aufgaben, aber auch andere Berechnungen könnten damit vereinfacht werden.

Stellenmarkt
  1. IT-Prozessmanagerin bzw. IT-Prozessmanager(w/m/d)
    Handwerkskammer Düsseldorf, Düsseldorf
  2. Senior Solution Architect (m/w/d)
    operational services GmbH & Co. KG, Frankfurt am Main
Detailsuche

Zur Unterstützung und vor allem für die Beschleunigung von Machine Learning setzen Hardware-Hersteller schon jetzt auf einige Besonderheiten in ihren Chips. Das Team zählt in seiner Ankündigung etwa verschiedene Befehlssätze und Einheiten in Hardware auf wie Intel AMX, Power MMA, Nvidias Tensor-Kerne, AMDs Matrix-Kerne oder Qualcomms HVX. Hinzu komme dann auch noch dedizierte Hardware wie von Nvidia oder AWS.

Mit einer guten und vor allem breiten LLVM-Unterstützung könnten diese Hersteller entsprechende Compiler-Backends einfacher für ihre eigene Hardware umsetzen, heißt es. Dazu könnte etwa der bereits in LLVM vorhandene Support für Vektor- und Matrix-Operationen auf Tensoren übertragen beziehungsweise verallgemeinert werden. Der wohl wichtigste Teil in Bezug auf LLVM ist, dass das Projekt so gestaltet ist, dass die eigentlichen Hardware-Ziele vergleichsweise leicht ausgetauscht werden können.

Ziel der nun vorgestellten Initiative ist ein Framework, das solchen Code für Tensoren generieren kann. Grundlage dafür soll der klassische LLVM-Code sein, ebenso wie die im vergangenen Jahr vorgestellte MLIR. Eigenen Aussagen zufolge arbeitet das Team zusammen mit AWS, Intel, IBM und Qualcomm an einem Prototyp. In dem nun veröffentlichten Vorschlag wird die LLVM IR um Tensor-Operationen erweitert, was TLX (Tensor LLVM eXtensions) genannt wird.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Microsoft
Windows 11 verlangsamt SSDs wohl teils merklich

Viele Teile der Community messen schlechtere Werte im Vergleich zu Windows 10, wenn sie Windows 11 auf ihren SSDs verwenden.

Microsoft: Windows 11 verlangsamt SSDs wohl teils merklich
Artikel
  1. CoreELEC/LibreELEC: Smart-TV mal anders
    CoreELEC/LibreELEC
    Smart-TV mal anders

    Eine TV-Box Marke Eigenbau bringt Spaß und Gewissheit über unsere Daten. Die Linux-Distributionen CoreELEC und LibreELEC eignen sich da besonders.
    Eine Anleitung von Sebastian Hammer

  2. Weltraumteleskop: Hubble ist wieder im Einsatz
    Weltraumteleskop
    Hubble ist wieder im Einsatz

    Mit einer neuen Software sollen die Instrumente des Weltraumteleskops künftig auch trotz bestimmter Fehler weiter arbeiten.

  3. Ubisoft Blue Byte: Anno 1800 muss in die Verlängerung
    Ubisoft Blue Byte
    Anno 1800 muss in die Verlängerung

    Vorerst gibt es kein neues Anno und auch kein Die Siedler: Ubisoft Blue Byte kündigt für 2022 eine vierte Season für Anno 1800 an.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Acer-Monitore zu Bestpreisen (u. a. 27" FHD 165Hz OC 199€) • Kingston PCIe-SSD 1TB 69,90€ & 2TB 174,90€ • Samsung Smartphones & Watches günstiger • Saturn: Xiaomi Redmi Note 9 Pro 128GB 199€ • Alternate (u. a. Razer Opus Headset 69,99€) • Release: Halo Infinite 68,99€ [Werbung]
    •  /