Hala Point: Intels Gehirn-Simulator hat die Rechenkapazität einer Eule
Intel hat das bisher größte neuromorphe System namens Hala Point vorgestellt. Nachdem die technischen Daten der darin verbauten Loihi-2-Chips schon bekannt waren, zeigt der Hersteller nun die Skalierbarkeit mit 1.152 neuromorphen Chips pro System. Für kleinere Forschungsprojekte gibt es auch Hardware mit einzelnen Loihi-2-Prozessoren .
Die Effizienz von Hala Point soll deutlich höher sein im Vergleich mit Clustern aus CPU oder GPU-basierten KI-Beschleunigern. Mit 380 Billionen 8-Bit-Operationen pro Sekunde und angegebenen 15 Tops pro Watt liegt das System deutlich über dem Wert einer Nvidia H100 mit rund 5,65 Tops pro Watt. Gerade in den Bereichen Bilderkennung und Routenplanung sollen neuromorphe Systeme langfristig besser sein.
Hala Point vereint 1.152 Loihi-2-Prozessoren sowie 2.304 x86-Kerne in einem einzigen Server mit sechs Höheneinheiten und einer Leistungsaufnahme von 2.600 Watt. Damit sollen sich 1,15 Milliarden Neuronen und 128 Milliarden Synapsen simulieren lassen. Ein gemeinsames Datennetz soll eine Speicherdurchsatzrate von 16 TByte/s bieten, sowie eine Chip-zu-Chip-Datenrate von 5 TByte/s.
Bessere Inferenz-Leistung als GPUs
Hala Point soll nicht in erster Linie zur neurowissenschaftlichen Modellierung verwendet werden, auch wenn Intel die neuronale Kapazität mit der einer Eule oder dem Frontalkortex eines Kapuzineraffen vergleicht. Stattdessen soll vor allem KI-Inferenz bei der Bildverarbeitung und Wegfindung zu den Stärken der Architektur gehören.
Anders als GPU-basierte KI-Systeme müssen Daten für neuromorphe Chips nicht zuerst in Batches zusammengefasst werden und können zudem auch non-binäre Integerwerte sein. Der Informationsgehalt der sogenannten Spikes ist dadurch höher als bei klassischen Datentypen. In der Forschung befindliche neuromorphe LLMs (Large Language Model) sollen kontinuierlich lernfähig sein und viele Gigawattstunden an Energie im Vergleich zu aktuellen LLMs sparen.
Die Forschungs- und Entwicklungseinrichtung des US-Energieministeriums Sandia National Labs wurde bereits von Intel mit Hala Point beliefert und verfügt damit über das erste operative System dieser Art. Intel will Hala Point Forschungssysteme Partnern zugänglich machen, auch zur gemeinsamen Entwicklung der dabei verwendeten Open-Source Softwarebibliotheken. Langfristig sollen so erste Systeme erforscht werden, die auch außerhalb der Forschung eingesetzt werden können.