Esperanto ET-SoC-1: Interessenten können RISC-V-KI-Beschleuniger testen

Mit 1.088 rechnenden Knechten in 34 Grafschaften soll Esperantos Chip besonders effizient inferenzieren. Samsung und andere testen ihn.

Artikel veröffentlicht am , Johannes Hiltscher
Die Prozessoren von Esperanto haben Speicher bekommen, der hier noch fehlt, und können ausprobiert werden.
Die Prozessoren von Esperanto haben Speicher bekommen, der hier noch fehlt, und können ausprobiert werden. (Bild: Esperanto)

Nachdem mit maschinellem Lernen (ML) ein Modell erstellt wurde, soll es beim Inferenzieren Daten auswerten. Das erfolgt mittels mathematischer Operationen und geschieht sehr oft. Daher wird es gern auf Rechenbeschleuniger ausgelagert - einen besonderen stellte das Startup Esperanto Technologies 2021 vor. Potenzielle Kunden können den ET-SoC-1 nun testen - und laut Pressemitteilung sind die ersten Tester begeistert.

Stellenmarkt
  1. IT-Systemadministrator (m/w/d)
    WHO'S PERFECT, München
  2. Information Security Manager ADC Locations (m/w / diverse)
    Continental AG, Lindau
Detailsuche

Dazu zählen neben Samsungs Dienstleistungssparte Samsung SDS auch zwei Beratungsfirmen. Andere Interessierte können sich beim Unternehmen melden, um den Beschleuniger ebenfalls auszuprobieren. Ganz frei sind sie dabei allerdings nicht, sie können nur eine Auswahl an fertigen (off-the-shelf) KI-Modellen nutzen. Insgesamt klingt die Pressemitteilung, als handele es sich mehr um einige Demo-Anwendungen - neben dem Modell seien Datensatz, Datentyp, Batch-Größe und die Anzahl der rechnenden Prozessoren konfigurierbar.

Besonders an dem Chip sind weniger die verwendeten RISC-V-Kerne, sondern dass er speziell auf maschinelles Lernen zielt. Dafür integriert jeder der 1.088 Minion-Kerne (auf Deutsch: Knechte) eine von Esperanto entwickelte Vektorrecheneinheit. Sie kann parallel 16- und 32-Bit Gleitkommaberechnungen mit bis zu 256 Bit oder 128 Int8-Berechnungen ausführen. Das echte Alleinstellungsmerkmal sind allerdings die Tensorbefehle. Sie können bis zu 512 Takte mit nur einer Anweisung laufen.

Effizienter und schneller als Nvidia

Die spezielle Ausrichtung soll den Chip besonders effizient machen. Das ist wichtig, da ML-Anwender permanent inferenzieren. Entwickelt hat Esperanto den Chip für Empfehlungsmodelle, beispielsweise Youtubes Videovorschläge. Im Vergleich zu anderen Beschleunigern wie Nvidias H100 hat der ET-SoC-1 einen Vorteil: Jeder der integrierten Prozessoren kann eigenständig Befehle ausführen, bei Nvidia führt ein Warp aus 32 Recheneinheiten dieselbe Anweisung aus.

Golem Karrierewelt
  1. AZ-104 Microsoft Azure Administrator: virtueller Vier-Tage-Workshop
    28.06.-01.07.2022, virtuell
  2. Cinema 4D Grundlagen: virtueller Drei-Tage-Workshop
    04.-06.07.2022, Virtuell
Weitere IT-Trainings

Das erhöht die Flexibilität, da beim Inferenzieren nur relativ kurz gerechnet wird. Die einzelnen Kerne sind unabhängig und müssen sich nicht synchronisieren. Beim Entwurf des Chips wurde aber auch an parallele Anwendungen gedacht. Innerhalb einer Neighborhood, die acht Minions umfasst, können diese sich effizient synchronisieren. Auch wird dann der L2-Cache, den sich die Nachbarn teilen, effizient genutzt. Vier Neighborhoods bilden ein Shire (auf Deutsch: Grafschaft), die sie an das interne Netzwerk anbindet und zusätzlichen, flexibel nutzbaren SRAM enthält.

Mit diesem Aufbau deklassiert Esperantos Prozessor nach Angaben des Unternehmens die Konkurrenz von Nvidia und Intel. Dass er vermutlich bei anderen Aufgaben schlechter abschneiden wird, stört da nicht - schließlich ist er speziell auf eine Nische mit wachsender Bedeutung ausgerichtet.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


jhi (Golem.de) 26. Apr 2022 / Themenstart

Wie Wuestenschiff schon schrieb teilen sich die Gruppen Resourcen. Die Neighbourhood...

Kommentieren



Aktuell auf der Startseite von Golem.de
Optibike
E-Bike mit 480 km Reichweite kostet 17.000 Euro

Das E-Bike Optibike R22 Everest setzt mit seinen zwei Akkus auf Reichweite.

Optibike: E-Bike mit 480 km Reichweite kostet 17.000 Euro
Artikel
  1. Krypto-Kriminalität: Behörden fahnden nach Onecoin-Betrügerin
    Krypto-Kriminalität
    Behörden fahnden nach Onecoin-Betrügerin

    Deutsche und internationale Behörden suchen nach den Hintermännern und -frauen von Onecoin. Der Schaden durch Betrug mit der vermeintlichen Kryptowährung geht in die Milliarden.

  2. Hassrede: Bayern will soziale Netzwerke bestrafen
    Hassrede
    Bayern will soziale Netzwerke bestrafen

    Der bayrische Justizminister fordert, bei der Verbreitung von Hassrede auch die Betreiber von sozialen Medien stärker zur Verantwortung zu ziehen.

  3. Prehistoric Planet: Danke, Apple, für so grandiose Dinosaurier!
    Prehistoric Planet
    Danke, Apple, für so grandiose Dinosaurier!

    Musik von Hans Zimmer, dazu David Attenborough als Sprecher: Apples Prehistoric Planet hat einen Kindheitstraum zum Leben erweckt.
    Ein IMHO von Marc Sauter

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Samsung 870 QVO 1 TB 79€ • Prime Video: Filme leihen für 0,99€ • Alternate (u. a. Recaro Rae Essential 429€) • Gigabyte RTX 3080 12 GB ab 1.024€ • Mindstar (u. a. AMD Ryzen 5 5600 179€, Palit RTX 3070 GamingPro 669€) • SanDisk Ultra microSDXC 256 GB ab 14,99€ • Sackboy 19,99€ [Werbung]
    •  /