Ethik: Papst warnt vor Risiken des KI-Einsatzes
Während Papst Franziskus die jüngsten Fortschritte in der Informationstechnologie lobte(öffnet im neuen Fenster) , warnte der Pontifex, dass KI "ernsthafte Risiken" berge, wenn die Menschheit nicht verantwortungsvoll handle.
Die differenzierte Sichtweise des Papstes ist keine Überraschung, da die Kirche seit langem ethische Debatten über den wissenschaftlichen Fortschritt anregt. Sein direkter Appell für eine verbindliche globale KI-Governance ist jedoch ein Novum.
Franziskus erkannte in seiner Botschaft zunächst die "bemerkenswerten Fortschritte" in der digitalen Technologie an, die dem Menschen eine "noch nie dagewesene Kontrolle über die Wirklichkeit" ermöglichten. Er warf jedoch auch die Frage nach den möglichen Folgen für den Einzelnen, die Gesellschaft und die globale Stabilität auf.
Der Papst stellte die Frage, welche mittel- und langfristigen Auswirkungen neue digitale Innovationen haben könnten. Er warnte davor, davon auszugehen, dass die KI die Menschheit automatisch verbessern werde, und erklärte stattdessen, dass "ein solch positives Ergebnis nur möglich ist, wenn wir uns als fähig erweisen, verantwortungsvoll zu handeln" .
Ethische Leitplanken sind nötig
Franziskus lobte die Möglichkeiten der KI, forderte aber gleichzeitig ethische Leitplanken gegen ihren Missbrauch. Er wies auf Risiken wie Diskriminierung, Wahleinmischung, Verletzung der Privatsphäre und digitale Ausgrenzung hin, die Konflikte verschärfen könnten. Der Papst warnte sogar davor, dass KI eine "technologische Diktatur" befördern könne, welche die menschliche Freiheit und Kontrolle aushöhle.
Besonders beunruhigt zeigte sich Franziskus über den Einsatz von KI in kritischen Entscheidungskontexten. Er argumentierte, dass Algorithmen nicht über Menschenrechte oder moralische Entscheidungen wie Mitgefühl und Vergebung entscheiden sollten. Ebenso sagte der Papst, dass autonome Waffensysteme niemals einer echten moralischen Verantwortung gerecht werden könnten.
Aufruf zu globaler KI-Governance
Das Kirchenoberhaupt forderte die Welt auf, einen verbindlichen Pakt zur Regulierung der KI-Entwicklung und -Nutzung auszuarbeiten. Er hoffe, dass der rasante technologische Fortschritt nicht zu einer Verschärfung der globalen Ungleichheiten und Ungerechtigkeiten führe. Stattdessen drängte Franziskus darauf, KI zu nutzen, um Leiden zu lindern und Kriege zu beenden.