Kohlendioxid-Ausstoß: Künstliche Intelligenz braucht viel Strom

Der Stromverbrauch und CO2-Ausstoß bei der Erstellung von Deep-Learning-Modellen ist erheblich, wie eine jetzt veröffentlichte Studie zeigt.

Artikel veröffentlicht am 11. Juni 2019, 11:33 Uhr, Hanno Böck

Aufwendige Berechnungen brauchen viel Strom - und der kommt nach wie vor häufig aus besonders klimaschädlichen Kohlekraftwerken. (Bild: Arnold Paul/Wikimedia Commons/CC-BY-SA 2.5)

Mit Hilfe von Deep-Learning-Algorithmen können Computer inzwischen Menschen in Go besiegen, Sprache besser verstehen und täuschend echt aussehende Fake-Videos erstellen. Doch die Durchbrüche bei der sogenannten künstlichen Intelligenz brauchen viel Rechenpower - und sind damit auch für erhebliche Treibhausgasemissionen verantwortlich. In einer jetzt veröffentlichten Studie versuchen Wissenschaftler, die ökologischen Kosten zu beziffern.

Die Wissenschaftler betrachten dabei Modelle aus der Verarbeitung natürlicher Sprache. Für ein beispielhaft durchgerechnetes Modell kommen sie zu dem Schluss, dass dafür etwa 280.000 Tonnen Kohlendioxidemissionen verursacht wurden. Das entspricht in etwa den Emissionen von fünf Autos in ihrer gesamten Betriebsdauer.

Tunen von Hyperparametern mit Brute-Force-Algorithmen braucht viel Strom

Für eine einzelne Berechnung eines Deep-Learning-Modells sind die Stromkosten vergleichsweise gering. Was aber viel Energie verbraucht, ist das Tunen der sogenannten Hyperparameter. Üblich ist es dabei, eine große Zahl verschiedener Parameter mit einer Bruteforce-Suche durchzuprobieren, um die besten Ergebnisse zu erzielen.

An dieser Stelle sehen die Autoren der Studie auch Ansatzpunkte, künftig den Energieverbrauch zu reduzieren. So gebe es etwa einige Algorithmen, die deutlich intelligenter als eine reine Bruteforce-Suche arbeiten, die dafür verfügbaren Softwareimplementierungen sind aber demnach bisher nicht gut in bestehende Software wie Tensorflow integriert.

In einem Bericht von MIT Technology Review zeigen sich mehrere Forscher überrascht über die hohen Zahlen. "Weder ich noch die Wissenschaftler, mit denen ich darüber diskutiert habe, hätten erwartet, dass die ökologischen Folgen so substanziell sind", zitiert Technology Review Carlos Gómez-Rodríguez von der Universität A Coruña in Spanien.

Viele Fragen bleiben unbeantwortet

Eine Diskussion über die ökologischen Kosten des maschinellen Lernens dürfte die Studie mit Sicherheit befördern. Doch viele Fragen bleiben auch unbeantwortet. Die Autoren betrachten zwar die Einzelberechnungen für verschiedene Modelle, doch die sind vergleichsweise gering. Eine ausführliche Analyse des Parameter-Tunings haben sie nur für ein einziges Modell durchgeführt. Keine Antwort liefert die Studie auch auf die Frage, wie häufig solche Modellberechnungen mit Parameter-Tuning überhaupt durchgeführt werden.

In vielen Fällen werden heute Berechnungen nicht mehr auf klassischer Hardware durchgeführt, sondern auf speziell dafür entwickelten Chips, etwa den von Google entwickelten TPUs (Tensor Processing Unit). Für TPUs stand den Autoren aber keine Information über den Energieverbrauch zur Verfügung.

Die Autoren schlagen vor, dass bei künftigen Veröffentlichungen Informationen über die genutzte Rechenpower transparenter gemacht werden sollen. Insbesondere bei Modellen, die für weiteres Training genutzt werden sollen, sei dies sinnvoll, um einen Vergleich über die Stromkosten erstellen zu können.

Neben dem reinen Stromverbrauch ist für die ökologischen Folgen natürlich auch relevant, wo die Betreiber der Infrastruktur ihren Strom beziehen. Die Autoren zitieren dabei einen Vergleich von Greenpeace. Dabei gibt es ganz erhebliche Unterschiede. Bei Amazon ist trotz ökologischer Versprechen der Strommix vergleichbar mit dem Durchschnitt in den USA, knapp ein Drittel kommt aus Kohlekraftwerken. In Googles Rechenzentren kommt immerhin schon etwas mehr als die Hälfte des Stroms aus erneuerbaren Energien.