Trainium: AWS hat Training-Chip selbst entwickelt

Das Trainium-Design soll Training für maschinelles Lernen besonders preisgünstig in der eigenen AWS-Cloud ermöglichen.

Artikel veröffentlicht am ,
Trainium für maschinelles Lernen
Trainium für maschinelles Lernen (Bild: AWS)

Amazon Web Services (AWS), die Cloud-Computing-Sparte von Amazon, hat den Trainium vorgestellt. Wie es der Name bereits impliziert, handelt es sich um ein für das Training von neuronalen Netzen ausgelegtes Design. So wie schon die Inferentia-ASICs und die Graviton2-CPUs hat AWS auch den Trainium-Chip selbst entwickelt, um damit eigene Instanzen zu bestücken.

Der Trainium soll im zweiten Halbjahr 2021 verfügbar sein, der Fokus liegt auf einer sehr hohen Performance pro Preis. Laut AWS sind die Instanzen noch preiswerter als die mit Intels Habana Gaudi, welche bereits 40 Prozent mehr Geschwindigkeit pro US-Dollar aufweisen sollen als die teure p4d.24xlarge-Konfiguration mit acht Nvidia A100.

Zur Performance und zur Technik des Trainium hat sich AWS nicht geäußert, die damit ausgestatteten Instanzen sollen aber die höchste Teraflops-Leistung aller für maschinelles Lernen gedachten Cloud-Instanzen aufweisen. Der Trainium unterstützt typische Frameworks wie Tensorflow und Pytorch oder MXNet, das Neuron genannte Software Development Kit (SDK) ist das gleiche wie bei den Inferentia-ASICs.

  • Trainium ist ein selbst entwickelter Training-Chip. (Bild: AWS)
  • Damit versehene Instanzen sollen sehr viele Teraflops erreichen. (Bild: AWS)
Trainium ist ein selbst entwickelter Training-Chip. (Bild: AWS)

Somit bietet AWS künftig eigene Designs und Instanzen für Training, also das Anlernen von neuronalen Netzen, und für Inferencing, sprich das Ausführen dieser vorab trainierten Algorithmen, an. Trainium soll in den EC2-Instanzen (Elastic Compute Cloud) und im Sagemaker-Dienst verfügbar sein, dort ist die vorgefertigte Auswahl an Lernalgorithmen und Frameworks gegeben, die laut AWS häufig eingesetzt werden.

Der Vorteil eigener Chips ist die dadurch erreichte vertikale Integration, da Hardware und Software aus einer Hand kommen - das vereinfacht gegenseitige Optimierungen, weshalb die Leistung steigt und die Kosten sinken.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Forschung
Erstes Röntgenbild von einem einzelnen Atom

Bisher war die Röntgenemission eines einzelnen Atoms zu schwach, um es auf einer Röntgenaufnahme abzulichten. Mit einer neuen Technik geht das jetzt.

Forschung: Erstes Röntgenbild von einem einzelnen Atom
Artikel
  1. US Air Force: KI-Drohne bringt in Gedankenexperiment Befehlshaber um
    US Air Force  
    KI-Drohne bringt in Gedankenexperiment Befehlshaber um

    Die US Air Force und der verantwortliche Offizier stellen klar, dass es sich nur um ein Gedankenspiel handelt - und keinen echten Test.

  2. Streaming: Verbraucherschützer warnen vor Netflix-Phishing
    Streaming
    Verbraucherschützer warnen vor Netflix-Phishing

    Phishing-Nachrichten im Namen von Netflix sind nichts Neues - in der aktuellen Verwirrung rund um das Kontensharing könnten sie aber einfacher verfangen.

  3. Forschung oder Ölbohrung?: China gräbt ein zehn Kilometer tiefes Loch
    Forschung oder Ölbohrung?
    China gräbt ein zehn Kilometer tiefes Loch

    Die Bohrung im Westen Chinas soll dazu dienen, mehr über das Innere des Planeten herauszufinden - oder doch dazu, um nach Öl zu suchen?

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    • Daily Deals • Tiefstpreise: AMD Ryzen 9 7900X3D 534€, KFA2 RTX 3060 Ti 329,99€, Kingston Fury SSD 2TB (PS5-komp.) 129,91€ • Sony Days of Play: PS5-Spiele & Zubehör bis -70% • Roccat PC-Zubehör bis -50% • AVM Modems & Repeater bis -36% • Sony Deals Week [Werbung]
    •  /