Hanguang 800: Alibabas Inference-Chip soll Nvidias Tesla T4 schlagen

Mit dem Hanguang 800 hat Alibaba einen für maschinelles Lernen gedachten Chip entwickelt, der Inferencing effizienter ausführen soll als Nvidias Tesla T4. Mit 17 Milliarden Transistoren ist der Hanguang 800 komplexer, zudem verkauft ihn Alibaba nicht an andere Unternehmen.

Artikel veröffentlicht am ,
Alibabas Technikchef Jeff Zhang stellt den Hanguang 800 vor.
Alibabas Technikchef Jeff Zhang stellt den Hanguang 800 vor. (Bild: Alibaba)

Alibaba hat vor wenigen Tagen auf der jährlichen Apsara Computing Conference seinen ersten Inference-Chip vorgestellt: Der Hanguang 800 der Pingtou-Tochter (T-Head) wird für maschinelles Lernen in Alibabas eigener Cloud-Infrastruktur eingesetzt, zudem können Kunden Instanzen damit mieten.

Stellenmarkt
  1. Product Manager/in Manufacturing (m/w/d)
    Haufe Group, Freiburg, München
  2. Client-Hardware - Konzeption, IT-Asset-Lifecycle-Management und Support
    Universität Hamburg, Hamburg
Detailsuche

Technikchef Jeff Zhang zufolge integriert der in einem 12-nm-Verfahren gefertigte Chip rund 17 Milliarden Transistoren und ist dabei besonders effizient. Zur absoluten Leistungsaufnahme in Form einer Steckkarte äußerte sich Alibaba nicht, verglich den Hanguang 800 aber mit der Tesla T4 von Nvidia. Diese Grafikkarte wird unterem von AWS und Google für Inferencing eingesetzt und benötigt 75 Watt.

Mit Resnet-50 soll der Hanguang 800 knapp 70.000 statt gut 5.000 Bilder pro Sekunde verarbeiten können, was in 500 pro Watt statt in 78 pro Watt resultieren soll. Diese Zahlen sind schwer vergleichbar und nachzuprüfen, zumal es sich beim Alibaba-Chip wohl um einen für diesen Zweck entwickelten ASIC handelt und keine allgemeiner einsetzbare GPU. Dennoch zeigt der Hanguang 800 neben dem RISC-V-basierten Xuan Tie 910, dass Alibaba sich unabhängiger machen will.

Gleiches gilt für AWS und Google, dort wurden mit dem Graviton und dem Inferentia sowie den TPUs eigene Chips für Training und Inferencing entwickelt. Auch dabei gilt die Prämisse, dass die Designs nur in den eigenen Cloud-Instanzen integriert sind, die Chips allerdings nicht außerhalb des Unternehmens eingesetzt oder gar verkauft werden. Hersteller wie AMD, Intel, Nvidia oder Xilinx hingegen vertreiben ihre Beschleuniger extern.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
New World im Test
Amazon liefert ordentlich Abenteuer

Konkurrenz für World of Warcraft und Final Fantasy 14: Amazon Games macht mit dem PC-MMORPG New World momentan vor allem Sammler glücklich.
Von Peter Steinlechner

New World im Test: Amazon liefert ordentlich Abenteuer
Artikel
  1. Nasa: Sonde Lucy erfolgreich zu Jupiter-Asteroiden gestartet
    Nasa
    Sonde Lucy erfolgreich zu Jupiter-Asteroiden gestartet

    Erstmals sollen Asteroiden in der Umlaufbahn des Jupiter untersucht werden. Der Start der Raumsonde Lucy ist laut Nasa geglückt.

  2. Pornoplattform: Journalisten wollen Xhamster-Eigentümer gefunden haben
    Pornoplattform
    Journalisten wollen Xhamster-Eigentümer gefunden haben

    Xhamster ist und bleibt Heimat für zahlreiche rechtswidrige Inhalte. Doch ohne zu wissen, wer profitiert, wusste man bisher auch nicht, wer verantwortlich ist.

  3. Whatsapp: Vater bekommt wegen eines Nacktfotos Ärger mit Polizei
    Whatsapp
    Vater bekommt wegen eines Nacktfotos Ärger mit Polizei

    Ein Vater nutzte ein 15 Jahre altes Nacktfoto seines Sohnes als Statusfoto bei Whatsapp. Nun läuft ein Kinderpornografie-Verfahren.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Cyber Week: Bis zu 40€ Rabatt auf Samsung-SSDs • ADATA XPG Spectrix D55 16-GB-Kit 3200 56,61€ • Crucial P5 Plus 1 TB 129,99€ • Kingston NV1 500 GB 35,99€ • Creative Sound BlasterX G5 89,99€ • Alternate (u. a. AKRacing Core SX 248,99€) • Gamesplanet Anniv. Sale Classic & Retro [Werbung]
    •  /