Anthropic-Mitbegründer Olah warnt vor KI-Gefahren
Laut Redemanuskript(öffnet im neuen Fenster) begrüßte er ausdrücklich die Initiative des Papstes. "Manche mögen glauben, dass Fragen der KI am besten von Informatikern wie mir behandelt werden sollten. Darin irren sie: Die Fragen, die die KI aufwirft, reichen weit über die KI-Forschungsgemeinschaft hinaus – nicht nur hinsichtlich ihrer Auswirkungen, sondern auch hinsichtlich ihrer eigentlichen Natur", sagte er zur Begründung.
Denn KI-Systeme würden nicht wie eine Brücke konstruiert. "Sie erwachsen auf der Grundlage einer Struktur, die grob dem Gehirn nachempfunden ist, und bauen auf einem riesigen Erbe menschlichen Denkens und Sprechens auf", sagte Olah.
Der Anthropic-Mitbegründer warnte dabei vor den sozialen Folgen des KI-Einsatzes: "Es besteht die reale Möglichkeit, dass die KI menschliche Arbeitskraft in einem sehr großen Ausmaß verdrängen wird. Sollte dies geschehen, wird die Unterstützung der dadurch verdrängten Menschen zu einem moralischen Gebot von historischem Ausmaß werden."Zudem räumte er ein, dass die Entwickler von KI-Modellen immer wieder auf Vorgänge stießen, die "rätselhaft, ja sogar beunruhigend sind". Olah erläuterte weiter: "Wir finden Strukturen, die Ergebnisse aus der menschlichen Neurowissenschaft widerspiegeln. Wir finden Hinweise auf Introspektion. Wir finden innere Zustände, die funktional Freude, Zufriedenheit, Angst, Trauer und Unbehagen abbilden." Er wisse zwar nicht, was das bedeute, aber es mache eine fortwährende, sorgfältige Untersuchung erforderlich.
Olah appellierte abschließend an weitere Interessenvertreter, sich an der Diskussion über die KI-Regulierung zu beteiligen: "Wir brauchen mehr Akteure weltweit – Religionsgemeinschaften, die Zivilgesellschaft, Wissenschaftler, Regierungen und tatsächlich alle Menschen guten Willens -, die das tun, was Seine Heiligkeit hier getan hat: die Sache ernst nehmen, genau hinschauen und die Ereignisse in eine bessere Richtung lenken."
Gespräche mit großen IT-Konzernen in Rom
Einem Bericht von Politico zufolge(öffnet im neuen Fenster) hatte sich Leo XIV. bereits Ende April 2026 mit Vertretern von Amazon, Meta und Google zum Thema KI getroffen. Zudem habe die US-Botschaft am Heiligen Stuhl Anfang Mai Veranstaltungen zum Thema KI organisiert. Daran habe auch der ehemalige britische Finanzminister George Osborne teilgenommen, der inzwischen für ChatGPT-Entwickler OpenAI tätig ist. Dessen Chef Sam Altman äußerte sich bislang nicht zum Schreiben des Papstes.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.