Colossus MK2 GC200: Graphcore baut 60-Milliarden-Transistoren-Chip
Graphcore hat eine gigantische Intelligence Processing Unit (IPU) vorgestellt: Der als Colossus MK2 GC200(öffnet im neuen Fenster) bezeichnete Chip ist für maschinelles Lernen ausgelegt, ein mit vier davon ausgerüstetes 1U-Blade soll ein Petaflops (INT8) erreichen. Der Vollausbau namens IPU-Pod64 nutzt 16 solcher Einschübe.
Dem britischen Hersteller zufolge wird der Colossus MK2 GC200 beim Auftragsfertiger TSMC in einem 7-nm-Verfahren produziert. Mit satten 823 mm² Fläche ist der Chip fast genauso groß wie Nvidias GA100 - allerdings weist er mit 59,4 Milliarden statt 54 Milliarden sogar noch mehr Transistoren auf. Intern besteht der Colossus MK2 GC200 aus 1.472 IPU-Cores, die 8.832 Compute-Threads abarbeiten, und ein mit 900 MByte riesiger SRAM hält Daten lokal in der Intelligence Processing Unit vor.
In einem 1U-Blade, dem IPU-M2000, stecken vier der per PCIe Gen4 x16 angebundenen Colossus MK2 GC200. Diese werden durch bis zu 256 GByte an DDR4-Speicher unterstützt, Graphcore nennt diesen kombiniert mit dem SRAM einen Exchange Memory. Für den IPU-Pod64 verwendet der Hersteller dann 16 Blades, die über ein spezielles Fabric kommunizieren. Das System ist luftgekühlt, allerdings macht Graphcore keine Angaben zur Leistungsaufnahme des Chips oder zu dem IPU-Pod64 im Ganzen. Der Colossus MK2 GC200 unterstützt ein proprietäres Format namens AI-Float, zudem FP32 sowie FP16 und INT8.
Zumindest bei der Objektklassifizierung mit EfficientNet-B4 soll ein IPU-Pod32 für 260.000 US-Dollar so schnell sein wie gleich 16 von Nvidias DGX-A100, die zusammen 3,2 Millionen US-Dollar kosten. Allerdings liefert Nvidia die DGX-A100 bereits aus, wohingegen Graphcore die IPU-M2000 und die IPU-Pod32/Pod64 erst im vierten Quartal 2020 verfügbar machen will.