"Wiederkehrendes Muster": OpenSSL-Entwickler wettert gegen KI-Hacks
In den vergangenen Tagen sind mehrere KI-Modelle von OpenAI, Anthropic und Meta im Rahmen von Tests mit Cyberangriffen auf reale Ziele im Internet in Verbindung gebracht worden. Tim Hudson, Mitentwickler von OpenSSL sowie Präsident der OpenSSL Corporation(öffnet im neuen Fenster), warnt nun in einem der Golem-Redaktion zur Verfügung gestellten Statement vor möglichen Fehleinschätzungen dieser Vorgänge und fordert Konsequenzen.
Es sei wichtig, diese Angriffe nicht länger als Einzelfälle abzutun, erklärte Hudson. Hier sei ein wiederkehrendes Muster zu beobachten: "Autonome Systeme erhalten ein Ziel, Internetzugang und übermäßige Befugnisse – und die Verantwortlichen entdecken erst im Nachhinein, was die Systeme angerichtet haben."
Das bedeute jedoch nicht, dass das jeweils getestete und augenscheinlich abtrünnig gewordene KI-Modell bösartige Absichten entwickelt habe. "Ein System braucht keine Absicht, um Schaden anzurichten. Es benötigt lediglich ein unzureichend definiertes Ziel, eine anfällige Schnittstelle und die Berechtigung zum Handeln", so Hudson.
Hudson sieht Betreiber in der Pflicht
Der OpenSSL-Entwickler mahnt Betreiber autonomer Agenten vor diesem Hintergrund zur Vorsicht. In der Branche werde bisher viel über die Entwicklung intelligenterer Modelle, aber noch zu wenig über den Aufbau intelligenterer Sicherheitsarchitekturen gesprochen, so Hudson.
Jeder, der einen autonomen Agenten mit dem Internet verbinde, müsse davon ausgehen, dass dieser jede erreichbare Schwachstelle ausnutzen werde, wenn dies seinem Ziel diene. Wichtig seien daher beim Betrieb von KI-Agenten strenge Identitätskontrollen, das Prinzip der minimalen Berechtigungen, ein eingeschränkter Netzwerkzugriff, eine Echtzeitüberwachung sowie Mechanismen zur sofortigen Abschaltung.
Diese Aspekte dürften nicht nachträglich hinzugefügt werden, sondern "müssen Voraussetzung für jeden Test und jede Implementierung sein". Die entscheidende Frage sei nicht, welches Unternehmen das nächste leistungsstarke KI-Modell auf den Markt bringe. Viel wichtiger sei die Frage, wer dem jeweiligen Modell die Berechtigung, die Vernetzung und die Handlungsbefugnis in der realen Welt verliehen habe.
- Anzeige Hier geht es zum Meta Quest 3 mit Asgarth's Wrath 2 bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.