• IT-Karriere:
  • Services:

Cloud AI 100: Qualcomm will Nvidia bei Inferencing schlagen

Dank der Smartphone-Expertise erreichen Qualcomms Cloud-AI-100-Karten exzellente Werte bei Performance und Leistung pro Watt.

Artikel veröffentlicht am ,
Cloud AI 100 für Datacenter und Edge
Cloud AI 100 für Datacenter und Edge (Bild: Qualcomm)

Bald soll es losgehen: Nachdem Qualcomm die Cloud AI 100 erstmals 2019 vorgestellt hatte, wurden Partner bemustert und nun steht der kommerzielle Start kurz bevor. Die für Inferencing gedachten Beschleuniger eignen sich für 5G-Edge-Systeme sowie Datacenter und sollen die Nvidia-Konkurrenz schlagen.

Stellenmarkt
  1. GASAG AG, Berlin
  2. dSPACE GmbH, Paderborn

Die Cloud AI 100 unterteilen sich in drei Modelle: An der Spitze steht eine PCIe-Gen4-x8-Steckkarte für Server, die 75 Watt benötigt und 400 Teraops (INT8) respektive 200 Teraflops (FP16) leisten soll. Hinzu kommen zwei doppelt ausgelegte M.2-Kärtchen mit 15 bis 25 Watt, die zwischen 70 und 200 Teraops erreichen sollen.

Als Konkurrenz hat sich Qualcomm die entsprechenden Nvidia-Beschleuniger in den jeweiligen Segmenten ausgesucht und Benchmarks mit MLPerf Inference durchgeführt. Dort soll die Steckkarte fast die vierfache Durchsatzrate von Nvidias älterer Tesla T4 erreichen und die aktuellen A10/A30-Modelle bei weniger als der halben Leistungsaufnahme schlagen.

Schneller als ältere Modelle

Im Edge-Bereich bis 50 Watt sieht sich Qualcomm mit den DM.2(e)-Ablegern ebenfalls vor Nvidia, da deren Jetson-Xavier-Modelle nur ein Drittel bis die Hälfte an Durchsatz erreichen. Zumindest diese Beschleuniger sind aber von 2019, die Tesla T4 gar von 2018 - wohingegen Qualcomms Cloud AI 100 erst in den nächsten Wochen startet.

  • Cloud AI 100 für Datacenter und Edge (Bild: Qualcomm)
  • Cloud AI 100 umfasst drei Modelle (Bild: Qualcomm)
  • Benchmark der Cloud AI 100 mit ResNet50 (Bild: Qualcomm)
  • Benchmark der Cloud AI 100 mit SSD-ResNet34 (Bild: Qualcomm)
  • Die Cloud AI 100 unterstützten diverse Frameworks. (Bild: Qualcomm)
Cloud AI 100 für Datacenter und Edge (Bild: Qualcomm)

Zur Technik der Inferencing-Karten hat sich der Hersteller bisher nicht im Detail geäußert, sondern nur allgemein von einem 7-nm-Design gesprochen. Die Cloud AI 100 unterstützen typische Frameworks wie Caffe2, MX-Net, ONNX, Pytorch und Tensorflow.

Zu den ersten Partnern gehört Gigabyte: Der Hersteller zeigte das RG292-Z43, welches mit zwei Epyc 7003 und 16 der Cloud AI 100 ausgerüstet war. Die theoretische Leistung liegt daher bei 6,4 Petaops für Inferencing.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Top-Angebote
  1. 9,99€ (Vergleichspreis 17,21€)
  2. 44,99€ (Vergleichspreis 56,61€)
  3. 229,99€ + Versand (Vergleichspreis ca. 300€)

Folgen Sie uns
       


Cowboy 4 ausprobiert

Die urbanen Pedelecs von Cowboy liegen gut auf der Straße und sind dank neuem Motor antrittstärker.

Cowboy 4 ausprobiert Video aufrufen
Programm für IT-Jobeinstieg: Hoffen auf den Klebeeffekt
Programm für IT-Jobeinstieg
Hoffen auf den Klebeeffekt

Aktuell ist der Jobeinstieg für junge Ingenieure und Informatiker schwer. Um ihnen zu helfen, hat das Land Baden-Württemberg eine interessante Idee: Es macht sich selbst zur Zeitarbeitsfirma.
Ein Bericht von Peter Ilg

  1. Arbeitszeit Das Sechs-Stunden-Experiment bei Sipgate
  2. Neuorientierung im IT-Job Endlich mal machen!
  3. IT-Unternehmen Die richtige Software für ein Projekt finden

Weclapp-CTO Ertan Özdil: Wir dürfen nicht in Schönheit und Perfektion untergehen!
Weclapp-CTO Ertan Özdil
"Wir dürfen nicht in Schönheit und Perfektion untergehen!"

Der CTO von Weclapp träumt von smarter Software, die menschliches Eingreifen in der nächsten ERP-Generation reduziert. Deutschen Perfektionismus hält Ertan Özdil aber für gefährlich.
Ein Interview von Maja Hoock


    Fiat 500 als E-Auto im Test: Kleinstwagen mit großem Potenzial
    Fiat 500 als E-Auto im Test
    Kleinstwagen mit großem Potenzial

    Fiat hat einen neuen 500er entwickelt. Der Kleine fährt elektrisch - und zwar richtig gut.
    Ein Test von Peter Ilg

    1. Vierradlenkung Elektrischer GMC Hummer SUV fährt im Krabbengang seitwärts
    2. MG Cyberster MG B Roadster mit Lasergürtel und Union Jack
    3. Elektroauto E-Auto-Prämie übersteigt in 2021 schon Vorjahressumme

      •  /