• IT-Karriere:
  • Services:

Hanguang 800: Alibabas Inference-Chip soll Nvidias Tesla T4 schlagen

Mit dem Hanguang 800 hat Alibaba einen für maschinelles Lernen gedachten Chip entwickelt, der Inferencing effizienter ausführen soll als Nvidias Tesla T4. Mit 17 Milliarden Transistoren ist der Hanguang 800 komplexer, zudem verkauft ihn Alibaba nicht an andere Unternehmen.

Artikel veröffentlicht am ,
Alibabas Technikchef Jeff Zhang stellt den Hanguang 800 vor.
Alibabas Technikchef Jeff Zhang stellt den Hanguang 800 vor. (Bild: Alibaba)

Alibaba hat vor wenigen Tagen auf der jährlichen Apsara Computing Conference seinen ersten Inference-Chip vorgestellt: Der Hanguang 800 der Pingtou-Tochter (T-Head) wird für maschinelles Lernen in Alibabas eigener Cloud-Infrastruktur eingesetzt, zudem können Kunden Instanzen damit mieten.

Stellenmarkt
  1. OEDIV KG, Oldenburg
  2. Freiburger Stadtbau GmbH, Freiburg

Technikchef Jeff Zhang zufolge integriert der in einem 12-nm-Verfahren gefertigte Chip rund 17 Milliarden Transistoren und ist dabei besonders effizient. Zur absoluten Leistungsaufnahme in Form einer Steckkarte äußerte sich Alibaba nicht, verglich den Hanguang 800 aber mit der Tesla T4 von Nvidia. Diese Grafikkarte wird unterem von AWS und Google für Inferencing eingesetzt und benötigt 75 Watt.

Mit Resnet-50 soll der Hanguang 800 knapp 70.000 statt gut 5.000 Bilder pro Sekunde verarbeiten können, was in 500 pro Watt statt in 78 pro Watt resultieren soll. Diese Zahlen sind schwer vergleichbar und nachzuprüfen, zumal es sich beim Alibaba-Chip wohl um einen für diesen Zweck entwickelten ASIC handelt und keine allgemeiner einsetzbare GPU. Dennoch zeigt der Hanguang 800 neben dem RISC-V-basierten Xuan Tie 910, dass Alibaba sich unabhängiger machen will.

Gleiches gilt für AWS und Google, dort wurden mit dem Graviton und dem Inferentia sowie den TPUs eigene Chips für Training und Inferencing entwickelt. Auch dabei gilt die Prämisse, dass die Designs nur in den eigenen Cloud-Instanzen integriert sind, die Chips allerdings nicht außerhalb des Unternehmens eingesetzt oder gar verkauft werden. Hersteller wie AMD, Intel, Nvidia oder Xilinx hingegen vertreiben ihre Beschleuniger extern.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Hardware-Angebote
  1. 375,20€
  2. täglich neue Deals bei Alternate.de

Everesto 02. Okt 2019

Cloud-Angebote haben zwar den Vorteil, dass man sich erst mal die Fixkosten spart (was...

DWolf 01. Okt 2019

Früher war mehr Lametta :/

gepa 01. Okt 2019

Abgesehen davon, dass ich geschäftlich schon mehrmals dort war - könnte man diese...


Folgen Sie uns
       


Huawei Mate Xs im Test

Das Mate Xs von Huawei ist ein Smartphone mit faltbarem Display - und für uns das erste, das vom Design her alltagstauglich ist. Das dürfte allerdings zu Lasten der Widerstandsfähigkeit gehen.

Huawei Mate Xs im Test Video aufrufen
    •  /