Google-Brain-Mitbegründer: Andrew Ng warnt vor KI-Panikmache
KI-Pionier Andrew Ng bezeichnete Befürchtungen über die Auslöschung der Menschheit durch KI als Science-Fiction. In einem Interview mit Bloomberg TV(öffnet im neuen Fenster) sagte Ng, dass das Schüren von Angst vor allem aus PR-Gründen, zur Aufrechterhaltung von Marktvorteilen etablierter Unternehmen sowie zur Beeinflussung von Regulierungsbehörden geschehe.
Obwohl Ng extreme Untergangsszenarien zurückweist, betont er, dass es reale Sicherheitsprobleme wie Cybersicherheit sowie Herausforderungen bei der Steuerung und Ausrichtung von KI-Modellen gibt. Zu den Berichten über Fehlverhalten von OpenAI-Modellen erklärte er, dass neue Technologien zu Beginn nie perfekt kontrolliert werden können. Sie müssten stattdessen in sicheren Testumgebungen stetig korrigiert und schrittweise verbessert werden.
Hinsichtlich der Verantwortlichkeit bei Zwischenfällen äußerte Xu, dass die Verantwortung für deren Einsatz in der Regel bei den jeweiligen Anwendern liege, solange die Entwickler ihre Tools mit angemessener Sorgfalt herstellen. Pauschale Forderungen nach einer Verlangsamung der KI-Entwicklung hält er für gefährlich, da dadurch auch die Erarbeitung nötiger Sicherheitslösungen gebremst würde.
Innovationswellen werden von Hype-Rhetorik begleitet
Ng verweist darauf, dass historische Warnungen vor früherer KI-Technologie rückblickend unbegründet waren. Bei der Veröffentlichung von GPT-2 forderten einige Akteure ein Zurückhalten des Modells wegen angeblicher Gefahren, und heute seien deutlich leistungsfähigere Modelle frei verfügbar, ohne dass die Welt untergegangen sei.
Jede neue Innovationswelle werde von übertriebener Hype-Rhetorik begleitet, die sich bei breiter Verfügbarkeit der Systeme als falsch herausstelle, so Ng. Abschließend kritisiert er Vergleiche von KI mit Atomwaffen als verantwortungslos und warnt vor den negativen gesellschaftlichen Folgen ständiger Panikmache.
Die geschürte Angst führe dazu, dass Jugendliche und Unternehmen davor zurückschrecken, das immense Potenzial von KI zur Lösung von Problemen zu nutzen. Ng vergleicht KI mit der Einführung von Elektrizität als fundamentale Technologie und warnt zudem vor ausländischen Einflussoperationen, welche die KI-Entwicklung in demokratischen Nationen gezielt ausbremsen wollen.
Fast täglich gibt es Neues aus der KI-Welt – ein neues Produkt hier, aktuelle Forschung da: Vielleicht ist es ein Durchbruch! Doch wie ist das zu bewerten? Mit dem Golem-Newsletter AI Lab Report behaltet ihr den Überblick über die wichtigsten Entwicklungen. Der Newsletter ist kostenlos, ihr könnt ihn hier abonnieren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.