Cerebras WSE2: Dieser AI-Prozessor braucht über 20 Kilowatt

Cerebras' Wafer Scale Engine 2 (WSE-2) nutzt 850.000 Kerne und besteht aus einem gigantischen quadratischen TSMC-Chip mit Wasserkühlung.

Artikel veröffentlicht am 22. April 2021, 12:30 Uhr, Marc Sauter

Wafer Scale Engine 2 im Größenvergleich (Bild: Cerebras)

Nachdem Cerebras vergangenes Jahr die Wafer Scale Engine 2 (WSE-2) erstmals vorgestellt hat, folgt die Einführung darauf basierender Systeme. Die als CS-2 bezeichneten 15U-Einheiten können zu zweit oder zu dritt in einem 42U/46UT-Rack zusammengefasst werden und liefern laut Cerebras die derzeit höchste Rechenleistung für künstliche Intelligenz.

Bei der WSE-2 handelt es sich um einen gigantischen quadratischen Chip mit TSMCs 7-nm-Verfahren, der aus einem runden Wafer geschnitten wird. Mit 46.225 mm² für 2,6 Billionen Transistoren und 850.000 Kerne hat die WSE-2 mehr als doppelt so viele Rechenwerke wie die WSE-1. Auch die Menge an SRAM (40 GByte) und Bandbreite (20 Petabyte/s) steigt um mehr als das Zweifache.

Üblicherweise werden pro Wafer einige Dutzend bis Hunderte an Chips belichtet und in einem späteren Arbeitsschritt vereinzelt, anschließend erfolgt das Packaging. Bei der Wafer Scale Engine hingegen handelt es sich trotz der absurden Maße um einen monolithischen Prozessor. Weil so viele identische Cores vorhanden sind, ist die Ausbeute (Yield) bei Defekten ein vergleichsweise geringes Problem.

• 

Wafer Scale Engine 2 (Bild: Cerebras)

Cerebras verbaut die WSE-2 in den CS-2-Systemen im 15U-Format. Diese sind wassergekühlt und mit zwölf (9+3) redundant ausgelegten Netzteilen versehen. Laut Cerebras liegt die maximale Leistungsaufnahme eines solchen Systems bei 23 Kilowatt, wovon ein Großteil auf die einzelne Wafer Scale Engine 2 entfällt. Zwei CS-2 passen in ein 42U-Rack, drei in ein höheres 46U-Rack.

Um die Systeme mit der restlichen Infrastruktur zu verbinden, sind zwölf 100-GBit/s-Anschlüsse vorhanden. Die Software-Plattform für die WSE-2 besteht aus dem Cerebras Graph Compiler (CGC), welche zuvor per Machine-Learning-Frameworks wie Pytorch und Tensorflow erstellte Modelle konvertiert, damit diese auf den CS-2 laufen. Hinzu kommen unter anderem APIs, Kernels und Debbuging-Tools für die Entwicklung.

Cerebras will die ersten CS-2 im dritten Quartal 2021 ausliefern, der Preis liegt bei mehreren Millionen US-Dollar. Zu den bisherigen Kunden des CS-1 gehören das Pittsburgh Supercomputing Center für den Neocortex-Supercomputer und das Lawrence Livermore National Laboratory für den Lassen-Supercomputer.