Hanguang 800: Alibabas Inference-Chip soll Nvidias Tesla T4 schlagen

Mit dem Hanguang 800 hat Alibaba einen für maschinelles Lernen gedachten Chip entwickelt, der Inferencing effizienter ausführen soll als Nvidias Tesla T4. Mit 17 Milliarden Transistoren ist der Hanguang 800 komplexer, zudem verkauft ihn Alibaba nicht an andere Unternehmen.

Artikel veröffentlicht am ,
Alibabas Technikchef Jeff Zhang stellt den Hanguang 800 vor.
Alibabas Technikchef Jeff Zhang stellt den Hanguang 800 vor. (Bild: Alibaba)

Alibaba hat vor wenigen Tagen auf der jährlichen Apsara Computing Conference seinen ersten Inference-Chip vorgestellt: Der Hanguang 800 der Pingtou-Tochter (T-Head) wird für maschinelles Lernen in Alibabas eigener Cloud-Infrastruktur eingesetzt, zudem können Kunden Instanzen damit mieten.

Stellenmarkt
  1. (Senior) Software Project Manager (m/f/d) Android Automotive
    Elektrobit Automotive GmbH, Ulm
  2. Systemadministratorin (a) im IT-Betrieb
    Stadt Freiburg, Freiburg
Detailsuche

Technikchef Jeff Zhang zufolge integriert der in einem 12-nm-Verfahren gefertigte Chip rund 17 Milliarden Transistoren und ist dabei besonders effizient. Zur absoluten Leistungsaufnahme in Form einer Steckkarte äußerte sich Alibaba nicht, verglich den Hanguang 800 aber mit der Tesla T4 von Nvidia. Diese Grafikkarte wird unterem von AWS und Google für Inferencing eingesetzt und benötigt 75 Watt.

Mit Resnet-50 soll der Hanguang 800 knapp 70.000 statt gut 5.000 Bilder pro Sekunde verarbeiten können, was in 500 pro Watt statt in 78 pro Watt resultieren soll. Diese Zahlen sind schwer vergleichbar und nachzuprüfen, zumal es sich beim Alibaba-Chip wohl um einen für diesen Zweck entwickelten ASIC handelt und keine allgemeiner einsetzbare GPU. Dennoch zeigt der Hanguang 800 neben dem RISC-V-basierten Xuan Tie 910, dass Alibaba sich unabhängiger machen will.

Gleiches gilt für AWS und Google, dort wurden mit dem Graviton und dem Inferentia sowie den TPUs eigene Chips für Training und Inferencing entwickelt. Auch dabei gilt die Prämisse, dass die Designs nur in den eigenen Cloud-Instanzen integriert sind, die Chips allerdings nicht außerhalb des Unternehmens eingesetzt oder gar verkauft werden. Hersteller wie AMD, Intel, Nvidia oder Xilinx hingegen vertreiben ihre Beschleuniger extern.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Everesto 02. Okt 2019

Cloud-Angebote haben zwar den Vorteil, dass man sich erst mal die Fixkosten spart (was...

DWolf 01. Okt 2019

Früher war mehr Lametta :/

gepa 01. Okt 2019

Abgesehen davon, dass ich geschäftlich schon mehrmals dort war - könnte man diese...



Aktuell auf der Startseite von Golem.de
Rotary Phone
Vom Wählscheiben-Bastelhandy zur eigenen Produktionsanlage

Justine Haupt hat ein Handy mit Wählscheibe entworfen - und gleich eine eigene Produktionsanlage zu Hause aufgebaut. Golem.de hat mit ihr gesprochen.
Ein Interview von Tobias Költzsch

Rotary Phone: Vom Wählscheiben-Bastelhandy zur eigenen Produktionsanlage
Artikel
  1. Internet: Indien verbannt den VLC Media Player
    Internet
    Indien verbannt den VLC Media Player

    Weder Downloadlink noch Webseite des VLC Media Players können von Indien aus aufgerufen werden. Der vermutete Grund: das Nachbarland China.

  2. Effektiv per Newsletter kommunizieren
     
    Effektiv per Newsletter kommunizieren

    Golem.de-Redakteur Daniel Ziegener und der Journalist Dirk von Gehlen geben Tipps zum Start eines eigenen Newsletters - im Livestream am Donnerstag, dem 18. August um 16 Uhr.
    Sponsored Post von Golem Karrierewelt

  3. John Deere: Ein Hacker präsentiert ein Jailbreak für Traktoren
    John Deere
    Ein Hacker präsentiert ein Jailbreak für Traktoren

    Nicht nur Telefonhersteller vernageln ihre Geräte. Der Hacker Sick Codes zeigt, wie Root-Zugriff auf die Systeme der Traktoren zu erlangen ist.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Playstation Summer Sale: Games für PS5/PS4 bis 84% günstiger • Günstig wie nie: SSD 1TB/2TB (PS5), Curved Monitor UWQHD LG 38"/BenQ 32" • Razer-Aktion • MindStar (AMD Ryzen 7 5800X3D 455€, MSI RTX 3070 599€) • Lego Star Wars Neuheiten • Bester Gaming-PC für 2.000€ [Werbung]
    •  /