Sind wir auf AGI vorbereitet?

Angesichts der ungelösten gesellschaftlichen Fragen im Umgang mit AGI und der möglichen existenziellen Bedrohung wird klar, warum die Unterzeichnenden des FLI-Schreibens eine Verlangsamung der KI-Forschung fordern. Der Vorschlag eines sechsmonatigen Moratoriums wirkt jedoch recht hilflos, wenn man sich die schiere Größe der Herausforderung anhand eines historischen Vergleichs vor Augen hält:

Ein nicht unwesentlicher Teil der letzten zweihundert Jahre Weltgeschichte lässt sich als ein Verteilungskampf um den Wohlstandsgewinn aus der Industrialisierung darstellen, der sich erst mit dem faktischen Ende des Kommunismus ein wenig beruhigt hat. Eine zukünftige Gesellschaft, in der Computer und Roboter den größten Teil der Wertschöpfung erbringen, wird eine veränderte oder sogar völlig neue ideologische Grundlage benötigen.

Dass sich diese auch nur annähernd in einem halben Jahr entwickeln könnte, ist offensichtlich abwegig. Ähnliches gilt für die existenzielle Bedrohung durch AGI, für die es im Moment noch nicht einmal ein verbreitetes Problembewusstsein gibt, geschweige denn Lösungsansätze auf einer Zeitskala von sechs Monaten.

Auch den Unterzeichnenden des FLI-Briefes dürfte klar sein, dass ihr Vorschlag einer Forschungspause so wohl nicht umgesetzt wird. Ihr Ziel ist es vielmehr, öffentliche Aufmerksamkeit auf die Tatsache zu lenken, dass die Entwicklung einer AGI einen historischen Wendepunkt markieren wird.

Dieser wird in seinen geistigen, wirtschaftlichen und politischen Folgen vergleichbar sein mit der Erfindung von Buchdruck, Dampfmaschine und Atombombe – und zwar gleichzeitig.

Helmut Linde leitete verschiedene Data-Science-Teams in deutschen Konzernen und ist nun in seinem Unternehmen für die Digitalisierung von Forschung und Entwicklung verantwortlich. Als Mathematiker und Physiker ist er fasziniert von naturwissenschaftlichen Themen sowie der Anwendung und der Zukunft der künstlichen Intelligenz.