IT-Sicherheit: BSI-Präsidentin droht KI-Anbietern in den USA und in China mit Haftung
Claudia Plattner hat die führenden KI-Anbieter für den Umgang mit Cybersicherheit kritisiert. Die Hersteller widmeten der Sicherheit ihrer Systeme "bislang viel zu wenig Aufmerksamkeit", sagte die Präsidentin des Bundesamts für Informationstechnik (BSI) dem Spiegel (Paywall)(öffnet im neuen Fenster). "Mir fehlen dort das Engagement und die Ernsthaftigkeit, um diese Probleme zu verhindern". Das gelte "für alle großen Anbieter, in den USA wie in China".
Plattner forderte die Hersteller auf, unkontrollierte Angriffe durch deren Systeme effektiver zu verhindern und ansonsten für die Folgen einzustehen: "Es ist ihr Produkt, sie müssen sicherstellen, dass so etwas künftig verhindert wird. Sonst könnten sich auch Haftungsfragen stellen."
Regeln an autonom handelnde KI-Agenten anpassen
Mit der aktuellen Situation, in der immer neue IT-Sicherheitsvorfälle durch unkontrollierte KI-Agenten bekanntwerden, könne niemand zufrieden sein. "Wir brauchen eine Regulierung, die über Selbstverpflichtungen und das Versprechen hinausgeht, künftig ein bisschen besser aufzupassen", so Plattner. Die üblichen politischen Instrumente reichten dafür nicht aus. "Wir müssen technisch ansetzen: Was ist das für eine KI? Wem gehört sie? Wer hat sie beauftragt? Was darf sie? Wir müssen unsere Regeln an die neue Zeit und das Phänomen der autonom handelnden KI-Agenten anpassen."
Nötig sei eine Instanz, die prüfe, ob die Regeln eingehalten werden. Mit einem schnellen Abflauen der IT-Sicherheitsprobleme durch KI-Agenten und den menschlichen, gesteuerten Missbrauch von KI rechnet die BSI-Präsidentin nicht: "Uns stehen unruhige Zeiten bevor."
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.

