• IT-Karriere:
  • Services:

Hanguang 800: Alibabas Inference-Chip soll Nvidias Tesla T4 schlagen

Mit dem Hanguang 800 hat Alibaba einen für maschinelles Lernen gedachten Chip entwickelt, der Inferencing effizienter ausführen soll als Nvidias Tesla T4. Mit 17 Milliarden Transistoren ist der Hanguang 800 komplexer, zudem verkauft ihn Alibaba nicht an andere Unternehmen.

Artikel veröffentlicht am ,
Alibabas Technikchef Jeff Zhang stellt den Hanguang 800 vor.
Alibabas Technikchef Jeff Zhang stellt den Hanguang 800 vor. (Bild: Alibaba)

Alibaba hat vor wenigen Tagen auf der jährlichen Apsara Computing Conference seinen ersten Inference-Chip vorgestellt: Der Hanguang 800 der Pingtou-Tochter (T-Head) wird für maschinelles Lernen in Alibabas eigener Cloud-Infrastruktur eingesetzt, zudem können Kunden Instanzen damit mieten.

Stellenmarkt
  1. NOVENTI HealthCare GmbH, München
  2. Universität Ulm, Ulm

Technikchef Jeff Zhang zufolge integriert der in einem 12-nm-Verfahren gefertigte Chip rund 17 Milliarden Transistoren und ist dabei besonders effizient. Zur absoluten Leistungsaufnahme in Form einer Steckkarte äußerte sich Alibaba nicht, verglich den Hanguang 800 aber mit der Tesla T4 von Nvidia. Diese Grafikkarte wird unterem von AWS und Google für Inferencing eingesetzt und benötigt 75 Watt.

Mit Resnet-50 soll der Hanguang 800 knapp 70.000 statt gut 5.000 Bilder pro Sekunde verarbeiten können, was in 500 pro Watt statt in 78 pro Watt resultieren soll. Diese Zahlen sind schwer vergleichbar und nachzuprüfen, zumal es sich beim Alibaba-Chip wohl um einen für diesen Zweck entwickelten ASIC handelt und keine allgemeiner einsetzbare GPU. Dennoch zeigt der Hanguang 800 neben dem RISC-V-basierten Xuan Tie 910, dass Alibaba sich unabhängiger machen will.

Gleiches gilt für AWS und Google, dort wurden mit dem Graviton und dem Inferentia sowie den TPUs eigene Chips für Training und Inferencing entwickelt. Auch dabei gilt die Prämisse, dass die Designs nur in den eigenen Cloud-Instanzen integriert sind, die Chips allerdings nicht außerhalb des Unternehmens eingesetzt oder gar verkauft werden. Hersteller wie AMD, Intel, Nvidia oder Xilinx hingegen vertreiben ihre Beschleuniger extern.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Hardware-Angebote
  1. 1.199,00€
  2. (u. a. RTX 2080 ROG Strix Gaming Advanced für 699€, RTX 2080 SUPER Dual Evo OC für 739€ und...

Everesto 02. Okt 2019 / Themenstart

Cloud-Angebote haben zwar den Vorteil, dass man sich erst mal die Fixkosten spart (was...

DWolf 01. Okt 2019 / Themenstart

Früher war mehr Lametta :/

gepa 01. Okt 2019 / Themenstart

Abgesehen davon, dass ich geschäftlich schon mehrmals dort war - könnte man diese...

Kommentieren


Folgen Sie uns
       


VW-Elektroautos aus Zwickau - Bericht

Der Volkswagen-Konzern will ab 2020 in Zwickau nur noch Elektroautos bauen - wir haben uns die Umstellung angesehen.

VW-Elektroautos aus Zwickau - Bericht Video aufrufen
Gardena: Open Source, wie es sein soll
Gardena
Open Source, wie es sein soll

Wenn Entwickler mit Zeitdruck nach Lösungen suchen und sich dann für Open Source entscheiden, sollte das anderen als Vorbild dienen, sagen zwei Gardena-Entwickler in einem Vortrag. Der sei auch eine Anleitung dafür, das Management von der Open-Source-Idee zu überzeugen - was auch den Nutzern hilft.
Ein Bericht von Sebastian Grüner

  1. Linux-Kernel Machine-Learning allein findet keine Bugs
  2. KernelCI Der Linux-Kernel bekommt einheitliche Test-Umgebung
  3. Linux-Kernel Selbst Google ist unfähig, Android zu pflegen

Frauen in der IT: Ist Logik von Natur aus Männersache?
Frauen in der IT
Ist Logik von Natur aus Männersache?

Wenn es um die Frage geht, warum es immer noch so wenig Frauen in der IT gibt, kommt früher oder später das Argument, dass Frauen nicht eben zur Logik veranlagt seien. Kann die niedrige Zahl von Frauen in dieser Branche tatsächlich mit der Biologie erklärt werden?
Von Valerie Lux

  1. IT-Jobs Gibt es den Fachkräftemangel wirklich?
  2. Arbeit im Amt Wichtig ist ein Talent zum Zeittotschlagen
  3. IT-Freelancer Paradiesische Zustände

Surface Laptop 3 (15 Zoll) im Test: Das 15-Zoll-Macbook mit Windows 10 und Ryzen
Surface Laptop 3 (15 Zoll) im Test
Das 15-Zoll-Macbook mit Windows 10 und Ryzen

Was passiert, wenn ein 13-Zoll-Notebook ein 15-Zoll-Panel erhält? Es entsteht der Surface Laptop 3. Er ist leicht, sehr gut verarbeitet und hat eine exzellente Tastatur. Das bereitet aber nur Freude, wenn wir die wenigen Anschlüsse und den recht kleinen Akku verkraften können.
Ein Test von Oliver Nickel

  1. Surface Laptop 3 mit 15 Zoll Microsoft könnte achtkernigen Ryzen verbauen

    •  /