• IT-Karriere:
  • Services:

Hanguang 800: Alibabas Inference-Chip soll Nvidias Tesla T4 schlagen

Mit dem Hanguang 800 hat Alibaba einen für maschinelles Lernen gedachten Chip entwickelt, der Inferencing effizienter ausführen soll als Nvidias Tesla T4. Mit 17 Milliarden Transistoren ist der Hanguang 800 komplexer, zudem verkauft ihn Alibaba nicht an andere Unternehmen.

Artikel veröffentlicht am ,
Alibabas Technikchef Jeff Zhang stellt den Hanguang 800 vor.
Alibabas Technikchef Jeff Zhang stellt den Hanguang 800 vor. (Bild: Alibaba)

Alibaba hat vor wenigen Tagen auf der jährlichen Apsara Computing Conference seinen ersten Inference-Chip vorgestellt: Der Hanguang 800 der Pingtou-Tochter (T-Head) wird für maschinelles Lernen in Alibabas eigener Cloud-Infrastruktur eingesetzt, zudem können Kunden Instanzen damit mieten.

Stellenmarkt
  1. ekom21 - KGRZ Hessen, Darmstadt, Kassel, Gießen
  2. Universität zu Köln, Köln

Technikchef Jeff Zhang zufolge integriert der in einem 12-nm-Verfahren gefertigte Chip rund 17 Milliarden Transistoren und ist dabei besonders effizient. Zur absoluten Leistungsaufnahme in Form einer Steckkarte äußerte sich Alibaba nicht, verglich den Hanguang 800 aber mit der Tesla T4 von Nvidia. Diese Grafikkarte wird unterem von AWS und Google für Inferencing eingesetzt und benötigt 75 Watt.

Mit Resnet-50 soll der Hanguang 800 knapp 70.000 statt gut 5.000 Bilder pro Sekunde verarbeiten können, was in 500 pro Watt statt in 78 pro Watt resultieren soll. Diese Zahlen sind schwer vergleichbar und nachzuprüfen, zumal es sich beim Alibaba-Chip wohl um einen für diesen Zweck entwickelten ASIC handelt und keine allgemeiner einsetzbare GPU. Dennoch zeigt der Hanguang 800 neben dem RISC-V-basierten Xuan Tie 910, dass Alibaba sich unabhängiger machen will.

Gleiches gilt für AWS und Google, dort wurden mit dem Graviton und dem Inferentia sowie den TPUs eigene Chips für Training und Inferencing entwickelt. Auch dabei gilt die Prämisse, dass die Designs nur in den eigenen Cloud-Instanzen integriert sind, die Chips allerdings nicht außerhalb des Unternehmens eingesetzt oder gar verkauft werden. Hersteller wie AMD, Intel, Nvidia oder Xilinx hingegen vertreiben ihre Beschleuniger extern.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Spiele-Angebote
  1. 9,99€
  2. Ghost Recon Breakpoint vom 21. bis zum 25. Januar kostenlos, mit allen Inhalten der Ultimate...
  3. 31,99€
  4. 7,99€

Everesto 02. Okt 2019

Cloud-Angebote haben zwar den Vorteil, dass man sich erst mal die Fixkosten spart (was...

DWolf 01. Okt 2019

Früher war mehr Lametta :/

gepa 01. Okt 2019

Abgesehen davon, dass ich geschäftlich schon mehrmals dort war - könnte man diese...


Folgen Sie uns
       


Sega Mega Drive (1990) - Golem retro_

Mit Mega-Power sagte Sega 1990 der Konkurrenz den Kampf an. Im Golem retro_ holen wir uns die Spielhalle nach Hause.

Sega Mega Drive (1990) - Golem retro_ Video aufrufen
    •  /