Zum Hauptinhalt Zur Navigation Zur Suche

KI-Agenten: Aufseher in USA und Europa prüfen KI-Risiken bei Banken

US-Aufseher fragen Banken, wie sie KI-Agenten kontrollieren und abschalten. Auch in Europa wächst die Sorge.
/ Nils Matthiesen
Kommentare Auf Google folgen (öffnet im neuen Fenster)
Aufseher wie die Federal Reserve sorgen sich wegen KI-Agenten. (Bild: Chip Somodevilla/Getty Images)
Aufseher wie die Federal Reserve sorgen sich wegen KI-Agenten. Bild: Chip Somodevilla/Getty Images

Die Bankenaufsicht in den USA und Europa nimmt KI-Risiken stärker in den Blick. Das berichtete die Nachrichtenagentur Reuters(öffnet im neuen Fenster) (Paywall) unter Berufung auf sechs mit der Sache vertraute Personen. Demnach befragen die US-Behörden Office of the Comptroller of the Currency, Federal Deposit Insurance Corporation und Federal Reserve Banken zum Einsatz fortgeschrittener KI-Modelle.

Laut zwei der Insider geht es vor allem um KI-Agenten, die Aufgaben mit wenig menschlicher Aufsicht erledigen. Die Behörden fragen etwa, ob Banken solche Agenten einsetzen, um Bedrohungen zu erkennen und darauf zu reagieren. Außerdem wollen sie wissen, wie Banken die Aktionen der Systeme überwachen und freigeben, ob Menschen an wichtigen Entscheidungen beteiligt blieben, und wie sich autonome Systeme abschalten lassen.

Drei Insider berichteten ferner, die Aufseher erkundigten sich auch nach chinesischer KI-Technik in den Banken. Die Behörden sammeln demnach noch Informationen und machen keine konkreten Vorgaben. Einige Insider verwiesen auf mögliche Cyberangriffe und außer Kontrolle geratene Agenten, welche die globale Finanzstabilität untergraben könnten.

Europäische Aufseher drängen auf Wiederherstellungspläne

Auch in Europa drängen Aufseher, darunter die Bank of England und die EZB, auf bessere Wiederherstellungspläne. Sie fürchten laut drei Insidern, dass KI die Finanzmärkte früher als befürchtet stören könnte. Die EZB setzte den Banken im Juli eine Frist bis Ende Oktober für Pläne gegen KI-gestützte Cyberbedrohungen. Ein Manager einer großen europäischen Bank sorgte sich vor möglicherweise großen Schäden innerhalb von sechs Monaten.

Der Bank-of-England-Chef und Vorsitzende des Financial Stability Board, Andrew Bailey, schrieb Ende August in einem Brief an die G20-Finanzminister und Notenbankchefs, die unmittelbare Sorge für das Finanzsystem sei die mögliche Wirkung von Frontier-KI auf das Cyberrisiko. Diese könne Tempo, Umfang und Ökonomie von Cyberrisiken wesentlich verändern. Das Schreiben liegt beim FSB(öffnet im neuen Fenster) vor.

Branche warnt vor mehr Angriffen

Auch die KI-Branche selbst warnt. Mehr als 100 Unternehmen und Organisationen, darunter OpenAI, Anthropic, Google, Microsoft, Amazon und Oracle, erklärten Ende August in einem gemeinsamen Brief(öffnet im neuen Fenster), KI-gestützte Cyberangriffe würden in den kommenden Monaten deutlich verbreiteter und raffinierter.

Zum Teil traten die Befürchtungen bereits ein. Laut dem Sicherheitsunternehmen Crowdstrike nutzte ein Angreifer bei Attacken auf südkoreanische Banken das chinesische Open-Source-Werkzeug Artex für Penetrationstests zusammen mit Claude Code von Anthropic. Crowdstrike vermutet einen in China ansässigen 26-Jährigen.


Fast täglich gibt es Neues aus der KI-Welt – ein neues Produkt hier, aktuelle Forschung da: Vielleicht ist es ein Durchbruch! Doch wie ist das zu bewerten? Mit dem Golem-Newsletter AI Lab Report behaltet ihr den Überblick über die wichtigsten Entwicklungen. Der Newsletter ist kostenlos, ihr könnt ihn hier abonnieren.


Relevante Themen