Zum Hauptinhalt Zur Navigation Zur Suche

IT-Sicherheit: BSI-Präsidentin droht KI-Anbietern in den USA und in China mit Haftung

BSI-Präsidentin Claudia Plattner wünscht sich ein schärferes Vorgehen gegen die Sicherheitsrisiken durch KI. Sie kritisiert einen unzureichenden, laxen Umgang mit IT-Sicherheit.
/ Achim Sawall
15 Kommentare Auf Google folgen (öffnet im neuen Fenster)
Claudia Plattner, die Präsidentin des BSI, im Juni 2023 (Bild: BMI/ Henning Schacht)
Claudia Plattner, die Präsidentin des BSI, im Juni 2023 Bild: BMI/ Henning Schacht

Claudia Plattner hat die führenden KI-Anbieter für den Umgang mit Cybersicherheit kritisiert. Die Hersteller widmeten der Sicherheit ihrer Systeme "bislang viel zu wenig Aufmerksamkeit", sagte die Präsidentin des Bundesamts für Informationstechnik (BSI) dem Spiegel (Paywall)(öffnet im neuen Fenster). "Mir fehlen dort das Engagement und die Ernsthaftigkeit, um diese Probleme zu verhindern". Das gelte "für alle großen Anbieter, in den USA wie in China".

Plattner forderte die Hersteller auf, unkontrollierte Angriffe durch deren Systeme effektiver zu verhindern und ansonsten für die Folgen einzustehen: "Es ist ihr Produkt, sie müssen sicherstellen, dass so etwas künftig verhindert wird. Sonst könnten sich auch Haftungsfragen stellen."

Regeln an autonom handelnde KI-Agenten anpassen

Mit der aktuellen Situation, in der immer neue IT-Sicherheitsvorfälle durch unkontrollierte KI-Agenten bekanntwerden, könne niemand zufrieden sein. "Wir brauchen eine Regulierung, die über Selbstverpflichtungen und das Versprechen hinausgeht, künftig ein bisschen besser aufzupassen", so Plattner. Die üblichen politischen Instrumente reichten dafür nicht aus. "Wir müssen technisch ansetzen: Was ist das für eine KI? Wem gehört sie? Wer hat sie beauftragt? Was darf sie? Wir müssen unsere Regeln an die neue Zeit und das Phänomen der autonom handelnden KI-Agenten anpassen."

Nötig sei eine Instanz, die prüfe, ob die Regeln eingehalten werden. Mit einem schnellen Abflauen der IT-Sicherheitsprobleme durch KI-Agenten und den menschlichen, gesteuerten Missbrauch von KI rechnet die BSI-Präsidentin nicht: "Uns stehen unruhige Zeiten bevor."


Relevante Themen