AGI CPU: ARMs erste CPU für Rechenzentren ermöglicht Custom-Designs
Seit längerem verfolgte ARM-CEO Rene Haas die Strategie, nicht nur IP-Cores für Prozessorkerne, sondern fertiges Silizium zu verkaufen . Das soll insbesondere höhere Gewinne ermöglichen. Mit der ARM AGI CPU(öffnet im neuen Fenster) hat der Prozessorhersteller nun das erste Modell vorgestellt. Der Prozessor nutzt Neoverse-V3-Kerne und verfügt über 12 DDR5-8800-Speicherkanäle.
Die CPU besteht aus zwei mit TSMCs N3P-Prozess gefertigten Chiplets, die eine Besonderheit aufweisen: Per AMBA CHI können externe Beschleuniger angebunden werden. Das ermöglicht es ARM, auf Basis der Chiplets mit wenig Aufwand kundenspezifische CPUs zu entwickeln. Aktuell werden drei Modelle angeboten, das größte kommt mit 136 Kernen, die beiden anderen sind teilaktiviert. Das Modell mit 128 Kernen ist kostenoptimiert, die 64-Kern-Variante hingegen auf hohe Speicherbandbreite ausgelegt.
Von den maximal 825 GByte/s an Speicherbandbreite kommen, je nach Konfiguration, 6 bis 13 GByte/s deterministisch bei jedem Kern an. Das ist beim Hosten von VMs interessant, da diese sich so nicht gegenseitig beeinträchtigen können. Die Kerne dürfen mit maximal 3,2 GHz takten, der Boost-Takt liegt bei 3,7 GHz. ARM gibt allerdings nicht an, wie viele Kerne den gleichzeitig nutzen dürfen.
Kann ein bisschen KI
Bei der Ausstattung der Kerne geht ARM einen ähnlichen Weg wie Ampere Computing: Sie sind in erster Linie auf klassische Rechenzentrumsanwendungen ausgelegt.
Allerdings sind Erweiterungen für KI-Berechnungen mit Brainfloat16 (BF16) und Int8 vorhanden – daher wohl der Name AGI CPU. Das genügt, um wenig beanspruchte Inferenz laufen zu lassen, ähnlich, wie es auch Ampere Computing bewirbt .
Dass Höchstleistung nicht Entwicklungsziel war, zeigen aber die Vektoreinheiten: Es sind lediglich zwei 128-Bit-SVE2-Einheiten pro Kern verbaut. Der L2-Cache fasst 2 MByte pro Kern, zusätzlich sind 128 MByte System-Level-Cache verbaut. Zum Anbinden von Erweiterungskarten sind 96 PCIe-Gen6-Lanes vorhanden, die CXL 3.0 unterstützen. Die Leistungsaufnahme gibt ARM mit 300 W an.
Eigene Server und viele Kunden
ARM selbst hat zwei mit der CPU ausgestattete Server-Referenzdesigns vorgestellt: Eines mit einer Höheneinheit (1HE), welches dem Data Center Modular Hardware System (DC-MHS) des Open Compute Project (OCP) entspricht. Davon passen 30 in ein 19-Zoll-Rack, was 8.160 Kerne bedeutet. Beim Zweiten handelt es sich um ein klassisches 2HE-Design, in beiden sind zwei CPUs verbaut – mehr unterstützt die AGI CPU nicht. Auch wenn es beim 1HE-Modell nicht unbedingt zu erwarten ist, sind beide Varianten luftgekühlt.
Mit Supermicro, Lenovo und Asrock werden auch etablierte Server-Hersteller eigene Modelle anbieten. Laut ARM nutzen bereits eine Reihe von Unternehme die AGI CPU: Genannt werden OpenAI, SK Telecom, SAP, Cloudflare, F5 und Cerebras.