Nach OpenAI-Hack: US-Abgeordnete wollen Kill Switch für KI
Die US-Abgeordneten Ted Lieu und Nathaniel Moran haben ein Gesetz vorgeschlagen, das dem US-Heimatschutzministerium die Macht geben würde, die Abschaltung von KI-Modellen anzuordnen. Außerdem schlugen sechs weitere Abgeordnete vor, dass Entwickler von leistungsfähigen KI-Modellen diese künftig auf ihre Sicherheit überprüfen lassen müssen, wie Reuters berichtet(öffnet im neuen Fenster).
Hintergrund ist der eigenständige Angriff einer KI von OpenAI auf die Webseite Hugging Face. Die Modelle sollten Angriffe über "komplexe Angriffspfade" durchführen. Eigentlich übliche Sicherheitsmaßnahmen waren ausgeschaltet, der Test soll aber in einer "stark isolierten Umgebung" erfolgt sein. Aus dieser befreite sich die KI jedoch.
Das Kill-Switch-Gesetz soll es den Behörden ermöglichen, KI-Modelle herunterfahren zu lassen, wenn menschliches Leben oder die Wirtschaft Schaden nehmen könnten. In einem Szenario, in dem KI-Unternehmen offenkundig die Kontrolle über ihre Systeme entgleitet, soll das Heimatschutzministerium eingreifen können.
Politik will KI kontrollieren
"Es handelt sich hierbei um eine dringende, vernünftige Gesetzgebung, um das Problem eines fortschrittlichen KI-Modells anzugehen, das außer Kontrolle geraten ist und sich seinen Sicherheitsvorkehrungen entzogen hat", erklärte Lieu.
Im Nachgang des jüngsten Vorfalls sollen OpenAI und Hugging Face dem direkten Austausch gesucht haben, um den Vorfall genauer zu untersuchen. OpenAI kündigte zudem an, die Sicherheitsvorkehrungen zu verbessern.
Der Golem-Blick
Eine außer Kontrolle geratene KI ist Thema vieler Science-Fiction-Erzählungen. Seit einigen Jahren sorgen sich Experten, dass ein derartiges hypothetisches Szenario Wirklichkeit werden könne. Dass Gesetzgeber versuchen, mit neuen Regelungen Sicherheit zu schaffen, ist erwartbar.
Die Frage ist, wie gut derartige Gesetze im Ernstfall helfen würden. Wenn eine KI wie im Fall von OpenAI und Hugging Face bereits Kontrollmaßnahmen durchbrochen hat, müsste ein behördlicher Eingriff kurzfristig erfolgen. Bei der Idee eines Audits ist die Frage, wo die Grenze zwischen potenziell gefährlichen und ungefährlichen KI-Modellen zu ziehen ist – keine Behörde dürfte alle neuen Modelle in annehmbarer Zeit untersuchen können.
Wir öffnen unsere neue Community für weitere Mitglieder! Möchtest du in konstruktiver und respektvoller Atmosphäre mit anderen IT-Experten über deine Themen sprechen? Sei dabei und melde dich an!
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.