Energiebedarf von KI: Nvidia H100 werden mehr Strom als kleine Länder benötigen
Die französische Firma Schneider Electric (via Tomshardware(öffnet im neuen Fenster) ) hat im Herbst ausgerechnet, dass KI-Rechenzentren in diesem Jahr mehr Energie verbrauchten als die Republik Zypern. Für das Jahr 2024 dürfte das bereits eine einzelne GPU-Serie schaffen. Denn Nvidia-H100-GPUs werden in Millionenstückzahl produziert und genutzt.
Ein einzelnes SXM-Modul mit einer Nvidia H100-GPU hat eine maximale Leistungsaufnahme von 700 Watt. Paul Churnock, leitender Elektroingenieur für technische Spezifikationen von Rechenzentren bei Microsoft, geht von einer durchschnittlichen jährlichen Auslastung von 61 Prozent aus.
Nvidia will im Jahr 2024 1,5 bis 2 Millionen H100-Beschleuniger verkaufen. Hinzu kommen geschätzte 1,5 Millionen im Jahr 2023. In Summe ergibt das bis zu 3,5 Millionen H100-Module , die bei einer jährlichen Auslastung von 61 Prozent insgesamt rund 13.000 Gigawattstunden pro Jahr brauchen. Damit würde allein die H100-Serie vor Staaten wie(öffnet im neuen Fenster) Bolivien, Estland, Litauen oder der Mongolei liegen.
Die Kilowatt-Chips kommen
Dabei ist noch nicht berücksichtigt, dass es weitere KI-Beschleuniger mit hohem Energiebedarf gibt, deren Verbreitung am Markt zunimmt. AMDs Instinct MI300A kann für bis zu 760 Watt konfiguriert werden, Intels Gaudi 2 hat eine maximale Leistungsaufnahme von 600 Watt. Nvidia hat mit GH200 außerdem den ersten Kilowatt-Chip im Portfolio.
Gleichzeitig kann der Energiebedarf von neuen Chips aber nicht einfach zum bestehenden Bedarf addiert werden. Denn neue Generationen sind je nach Anwendung teilweise mehr als doppelt so leistungsfähig. Bleibt die Aufgabe gleich, werden also weniger Chips dafür benötigt. Die Energieeffizienz steigt daher insgesamt.
Da neben den Energiekosten auch die maximal mögliche Energieversorgung und Kühlung einer der limitierenden Faktoren für die Betreiber von Rechenzentren ist, haben die Betreiber auch einen Anreiz, ineffiziente Hardware auszutauschen. Schneider Electric geht daher von einem jährlichen Anstieg des Energiebedarfs von KI-Rechenzentren von 26 bis 36 Prozent aus.