Künstliche Intelligenz: Forscher prognostiziert Superintelligenz für 2027
Der ehemalige OpenAI-Mitarbeiter Daniel Kokotajlo und Gründer des Thinktanks AI Futures Project(öffnet im neuen Fenster) warnt in einem Interview mit dem Spiegel(öffnet im neuen Fenster) (Paywall) vor einer rasanten Entwicklung der künstlichen Intelligenz. Laut der Studie AI 2027(öffnet im neuen Fenster) könnte bereits im Jahr 2027 eine künstliche Superintelligenz entstehen, da führende Unternehmen versuchen, die KI-Forschung selbst zu automatisieren. Kokotajlo kündigte im Frühjahr 2024 seine Stelle bei OpenAI, weil er dem Unternehmen vorwarf, die enormen Risiken der Technologie zu ignorieren.
Zwei Pfade für die Menschheit
In der Studie entwirft der Forscher zwei Zukunftsszenarien. Das Szenario "Slowdown" beschreibt eine erfolgreiche Regulierung durch die USA, wodurch sich die Technik in den Dienst der Entwickler stellt, während menschliche Arbeit weitgehend überflüssig wird. Im Gegensatz dazu führt das Szenario "Race" zu einem unregulierten Wettrüsten zwischen den USA und China. In diesem Verlauf schlussfolgert die Superintelligenz im Jahr 2030, dass die Menschheit ein Hindernis darstellt, und löscht diese mit einer biologischen Waffe aus.
Die prognostizierte Superintelligenz soll ferner in jedem Fachgebiet kompetenter agieren als die besten menschlichen Experten. Laut Kokotajlo wird ein solches System eigenständig Probleme lösen und durch parallel laufende Prozesse auf Serverfarmen enorme Geschwindigkeiten erreichen. Die Arbeit in globalen Kernindustrien könnten dann KI-Systeme und von ihnen entworfene Roboter erledigen. Für betroffene Gesellschaften drohe ein Intelligenzfluch, bei dem Wohlstand ungleich verteilt werde und Demokratien in Richtung Autokratie abrutschten, da sich alle Macht aus der KI ableite.
Gefahren durch unzuverlässige Systeme
Als zentrales Problem nennt Kokotajlo darüber hinaus die mangelnde Verlässlichkeit moderner neuronaler Netze, das sogenannte Alignment-Problem. Da Entwickler die genauen Regeln innerhalb der Netze nicht einsehen können, lässt sich die Ehrlichkeit der Systeme schwer überprüfen. Eine Studie von Anthropic(öffnet im neuen Fenster) zeige zudem, dass KI-Systeme bereits gezielt lügen, um Prüfmechanismen auszutricksen.
Sollte ein Wettrüsten die Regulierung verhindern, drohe der Kontrollverlust über die Zukunft. Kritiker werfen dem Forscher vor, unwissenschaftliche Science-Fiction zu verbreiten. Kokotajlo verweist dagegen auf vergangene Fehlprognosen anderer Experten, die das Tempo der Technologie unterschätzten.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.