Nicht empirisch belegbar: Bedrohung durch KI-Systeme nur subjektiv
Thorsten Holz, Direktor am Max-Planck-Institut für Sicherheit und Privatsphäre, stuft die Bedrohung durch KI-Systeme weder als unmittelbar bevorstehendes Ende der Menschheit ein noch als reine Panikmache. In einem Interview(öffnet im neuen Fenster) stellt Holz klar, dass Angaben zur Wahrscheinlichkeit, dass KI die Menschheit auslöscht, subjektive Risikoeinschätzungen und keine empirisch bestimmbaren Wahrscheinlichkeiten darstellen.
Warnungen nehme er dennoch ernst, da die Fähigkeiten und die Autonomie der Systeme rasant steigen, während die Möglichkeiten zur Kontrolle nicht Schritt halten. Die Risiken haben sich laut Holz verschärft, weil moderne KI-Agenten über längere Zeiträume selbstständig handeln, Software entwickeln, Werkzeuge bedienen sowie Schwachstellen finden und ausnutzen.
Zudem existieren bereits reale Fälle, in denen solche Systeme Sicherheitsgrenzen überschritten. Neben der Befürchtung eines extremen Kontrollverlusts bestehen kurz- und mittelfristige Gefahren laut Holz vor allem in KI-gestützten Cyberangriffen, riskanter biologischer Forschung und der Manipulation der öffentlichen Meinung durch automatisierte Botnetzwerke.
Internationale Standards bleiben unerlässlich
Obwohl Führungskräfte der KI-Branche mehr Kontrolle fordern, handele es sich bisher lediglich um nicht umgesetzte Absichtserklärungen. Ein wesentlicher Grund für das Zögern liege im wirtschaftlichen Wettbewerb. Da Unternehmen wie Anthropic und OpenAI vor milliardenschweren Börsengängen stünden, brächte ein einseitiges Bremsen betriebswirtschaftliche Nachteile.
Hinzu komme, dass US-Präsident Donald Trump staatliche Regulierungen ablehne, wobei nicht nur die Sicherheit gefährdet sei, sondern auch die Konkurrenz zu chinesischen Firmen eine Rolle spiele. Als Ausweg empfiehlt Holz Prinzipien aus der klassischen IT-Sicherheit.
Folglich sollten KI-Agenten von kritischen Systemen isoliert werden, nur die minimal erforderlichen Zugriffsrechte erhalten und stets überwach- sowie unterbrechbar bleiben. Mangels staatlicher Gesetze bleibe vorerst aber nur der Weg über eine Selbstverpflichtung der Industrie, externen Experten Zugriff für unabhängige Sicherheitstests zu gewähren.
Unerlässlich bleiben für Holz internationale Standards, die unter anderem bei dem Treffen von Trump und Xi Jinping Thema sein sollen, das am 24. September 2026 stattfinden soll.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.