Angst statt Fortschritt: Experten fordern Pause bei KI-Entwicklung

Die Organisation Future of Life hat einen offenen Brief veröffentlicht, in der sie einen vorübergehenden Stopp der KI-Entwicklung fordert.

Artikel veröffentlicht am 30. März 2023, 7:15 Uhr, Andreas Donath

Fast jede Woche werden mehrere neue Anwendungen vorgestellt. (Bild: Midjourney/Golem.de)

Vertreter der Techindustrie, darunter Elon Musk, Steve Wozniak, Yoshua Bengio und Yuval Noah Harari, fordern in einem offenen Brief ein Moratorium der KI-Entwicklung.

In dem Brief wird vor dem "außer Kontrolle geratenen" Wettlauf in der KI-Entwicklung gewarnt, den "niemand – nicht einmal ihre Erfinder – verstehen, vorhersagen oder zuverlässig kontrollieren kann". Die Initiatoren fordern einen Stopp und wollen, dass leistungsfähige KI-Systeme nur dann entwickelt würden, wenn ihre Auswirkungen positiv und die Risiken überschaubar seien. Der Brief wurde schon von mehr als tausend Menschen digital unterzeichnet.

Die von den Unterzeichnern geforderte sechsmonatige Pause bezieht sich auf das Training von KI-Systemen, die leistungsfähiger sind als GPT-4. Die Unterzeichner schlagen vor, dass aktuelle Entwicklungen während des Moratoriums von externen Experten überprüft werden und dass Entwickler gemeinsame Sicherheitsprotokolle entwickeln sollten.

Es dürfte schwer werden, den KI-Hype zu stoppen: Derzeit überbieten sich die Unternehmen in einem Ankündigungswettbewerb. Fast jede Woche werden mehrere neue Anwendungen vorgestellt.

Die Kritiker befürchten, dass die neue Technik Propaganda und Hasskommentare in einem noch nie dagewesenen Ausmaß verbreiten könne. Sie befürchten negative Auswirkungen auf die Arbeitswelt und sorgen sich, dass auch hochwertige Arbeitsplätze wegfallen könnten.

Auch Institutionen wie Europol und der Deutsche Ethikrat wiesen bereits auf mögliche Risiken von KI-Anwendungen hin.

Für den Fall, dass die Industrie der vorgeschlagenen Denkpause nicht zustimme, fordern die Autoren des offenen Briefes ein Eingreifen der Staatengemeinschaft.