Trainium: AWS hat Training-Chip selbst entwickelt

Das Trainium-Design soll Training für maschinelles Lernen besonders preisgünstig in der eigenen AWS-Cloud ermöglichen.

Artikel veröffentlicht am ,
Trainium für maschinelles Lernen
Trainium für maschinelles Lernen (Bild: AWS)

Amazon Web Services (AWS), die Cloud-Computing-Sparte von Amazon, hat den Trainium vorgestellt. Wie es der Name bereits impliziert, handelt es sich um ein für das Training von neuronalen Netzen ausgelegtes Design. So wie schon die Inferentia-ASICs und die Graviton2-CPUs hat AWS auch den Trainium-Chip selbst entwickelt, um damit eigene Instanzen zu bestücken.

Stellenmarkt
  1. Softwareentwickler*in für Radardatenverarbeitung (w/m/d)
    Hensoldt, Ulm
  2. Projektmanager (m/w/d)
    piazza blu 2 GmbH, Köln
Detailsuche

Der Trainium soll im zweiten Halbjahr 2021 verfügbar sein, der Fokus liegt auf einer sehr hohen Performance pro Preis. Laut AWS sind die Instanzen noch preiswerter als die mit Intels Habana Gaudi, welche bereits 40 Prozent mehr Geschwindigkeit pro US-Dollar aufweisen sollen als die teure p4d.24xlarge-Konfiguration mit acht Nvidia A100.

Zur Performance und zur Technik des Trainium hat sich AWS nicht geäußert, die damit ausgestatteten Instanzen sollen aber die höchste Teraflops-Leistung aller für maschinelles Lernen gedachten Cloud-Instanzen aufweisen. Der Trainium unterstützt typische Frameworks wie Tensorflow und Pytorch oder MXNet, das Neuron genannte Software Development Kit (SDK) ist das gleiche wie bei den Inferentia-ASICs.

  • Trainium ist ein selbst entwickelter Training-Chip. (Bild: AWS)
  • Damit versehene Instanzen sollen sehr viele Teraflops erreichen. (Bild: AWS)
Trainium ist ein selbst entwickelter Training-Chip. (Bild: AWS)

Somit bietet AWS künftig eigene Designs und Instanzen für Training, also das Anlernen von neuronalen Netzen, und für Inferencing, sprich das Ausführen dieser vorab trainierten Algorithmen, an. Trainium soll in den EC2-Instanzen (Elastic Compute Cloud) und im Sagemaker-Dienst verfügbar sein, dort ist die vorgefertigte Auswahl an Lernalgorithmen und Frameworks gegeben, die laut AWS häufig eingesetzt werden.

Golem Karrierewelt
  1. Jira für Systemadministratoren: virtueller Zwei-Tage-Workshop
    08./09.09.2022, virtuell
  2. First Response auf Security Incidents: Ein-Tages-Workshop
    14.11.2022, Virtuell
Weitere IT-Trainings

Der Vorteil eigener Chips ist die dadurch erreichte vertikale Integration, da Hardware und Software aus einer Hand kommen - das vereinfacht gegenseitige Optimierungen, weshalb die Leistung steigt und die Kosten sinken.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
SFConservancy
Open-Source-Entwickler sollen Github wegen Copilot verlassen

Ähnlich wie schon vor Jahrzehnten mit Sourceforge sollen Open-Source-Projekte nun auch Github verlassen.

SFConservancy: Open-Source-Entwickler sollen Github wegen Copilot verlassen
Artikel
  1. Connect-Festnetztest: Telekom gewinnt, Vodafone schwach, Deutsche Glasfaser besser
    Connect-Festnetztest
    Telekom gewinnt, Vodafone schwach, Deutsche Glasfaser besser

    Erstmals nahm Deutsche Glasfaser an dem Vergleich teil und war besser als die Telekom. Allerdings sind beide in unterschiedlichen Kategorien gelistet.

  2. Wärmeversorgung: Berlin baut Thermoskanne gegen Gasnotstand
    Wärmeversorgung
    Berlin baut Thermoskanne gegen Gasnotstand

    Der Versorger Vattenfall baut in Berlin einen riesigen Warmwasserspeicher, um Häuser im Winter heizen zu können. Das könnte beim möglichen Gasnotstand helfen.

  3. Chrome OS Flex: Das Apple Chromebook
    Chrome OS Flex
    Das Apple Chromebook

    Ein zehn Jahre altes Notebook lässt sich mit Chrome OS Flex wieder flott machen. Wir haben Googles Betriebssystem ausprobiert und waren begeistert.
    Ein Erfahrungsbericht von Martin Wolf

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • MSI RTX 3080 12GB günstig wie nie: 949€ • AMD Ryzen 7 günstig wie nie: 259€ • Der beste 2.000€-Gaming-PC • Cooler Master 34" UWQHD 144 Hz günstig wie nie: 467,85€ • Asus RX 6900 XT OC günstig wie nie: 1.049€ • Mindstar (Gigabyte RTX 3060 399€) • Galaxy Watch3 45 mm 119€ [Werbung]
    •  /