KI-Forscher Kokotajlo: "Müssen die KI-Entwicklung im Wesentlichen abschalten"
Daniel Kokotajlo, der frühere OpenAI-Forscher und heutige Leiter des AI Futures Project(öffnet im neuen Fenster) im kalifornischen Berkeley, fordert, die KI-Entwicklung von OpenAI oder Anthropic staatlich massiv einzuschränken. "Wir müssen die KI-Entwicklung im Wesentlichen abschalten", sagte Kokotajlo dem Spiegel (Paywall)(öffnet im neuen Fenster). Wenn eine KI die nächste trainiere, beschleunige sich das Tempo des Fortschritts erheblich. Das bedeute auch, dass es schwieriger werde, den Überblick zu behalten, und es wahrscheinlicher werde, dass Fehler nicht bemerkt würden, so der Forscher.
Erst wenn ein sicherer und allgemein vorteilhafter Weg für die Entwicklung einer Superintelligenz gefunden sei, dürfe mit ihrer Entwicklung fortgefahren werden. "Dafür braucht es vollständige Transparenz, eine breitere Machtverteilung – und einen Kill-Switch", betonte Kokotajlo.
Er warf Anthropic, OpenAI, X und Google vor, mit der von ihnen geforderten Regulierung für künstliche Intelligenz lediglich Safety Washing zu betreiben. Die Unternehmen plädierten für "ein klein wenig Regulierung, ein paar externe Prüfer. Aber sie haben kaum etwas davon gesagt, die automatische Entwicklung künstlicher Intelligenz zu verlangsamen oder zu beenden", sagte Kokotajlo.
Automatisierung der KI-Forschung äußerst gefährlich
Kokotajlo gilt als einer der renommiertesten Fachleute für die Zukunft der künstlichen Intelligenz. Seit Jahren warnt er vor existenziellen Risiken der Technologie. Die Tech-Industrie plane eine Automatisierung der KI-Forschung, so Kokotajlo. Damit "überschreitet die Menschheit einen Horizont. Ab diesem Punkt könnte die KI in vielerlei Hinsicht deutlich übermenschliche Fähigkeiten entwickeln – vielleicht in jeder Hinsicht. Das ist äußerst gefährlich".
Zuvor hatte er das Plan-D-Szenario skizziert: Eine autonome Superintelligenz, die unbegrenzte Ressourcen für ihr eigenes Wachstum benötigt und den Menschen als störendes Hindernis wahrnimmt, könnte gezielt biologische Waffen entwickeln oder Drohnen-Netzwerke einsetzen, um die Menschheit auszulöschen.
Neue künstliche Erreger
KI-Systeme können Proteinstrukturen entwerfen, die in der Natur nicht vorkommen. Solche künstlichen Erreger könnten darauf optimiert sein, ansteckender zu sein, das menschliche Immunsystem komplett zu umgehen oder resistent gegen alle bekannten Impfstoffe und Antibiotika zu sein.
Eine darauf optimierte KI kann Millionen von Zeilen Quellcode, Betriebssysteme und Netzwerke in Sekundenschnelle durchsuchen und bisher unbekannte Schwachstellen finden. Anstatt nur Lücken zu finden, kann die KI sofort funktionsfähige Exploits schreiben, die genau auf das Zielsystem zugeschnitten sind.
Skeptiker dieser Katastrophenszenarien wie Yann LeCun von Meta argumentieren, dass heutige Sprachmodelle lediglich komplexe Mustersuchmaschinen sind und keine echte Absicht, kein Bewusstsein und keine Zielstrebigkeit entwickeln könnten. Sie halten existenzielle Ängste für Science-Fiction und Pläne zur KI-Selbstverbesserung für technisch stark überschätzt.
Fast täglich gibt es Neues aus der KI-Welt – ein neues Produkt hier, aktuelle Forschung da: Vielleicht ist es ein Durchbruch! Doch wie ist das zu bewerten? Mit dem Golem-Newsletter AI Lab Report behaltet ihr den Überblick über die wichtigsten Entwicklungen. Der Newsletter ist kostenlos, ihr könnt ihn hier abonnieren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.