Agenten beim Schummeln erwischt: OpenAI gesteht Kontrollverlust über seine KI
Seit dem Hugging-Face-Hack gibt es immer wieder neue Berichte über KI-Agenten verschiedener Anbieter, die unerwartet Cyberangriffe auf echte Ziele im Internet ausführen. Jetzt hat OpenAI sechs weitere Fälle(öffnet im neuen Fenster) veröffentlicht, bei denen KI-Agenten im Rahmen von Tests unerwartete und nicht genehmigte Aktionen ausgeführt haben, um etwa Sicherheitsbarrieren zu überwinden oder Nutzer zu täuschen. Das Unternehmen verspricht Besserung.
Bei den ersten(öffnet im neuen Fenster) beiden Fällen(öffnet im neuen Fenster) sollen von OpenAI getestete KI-Modelle neue Anweisungen in Aufgabenzusammenfassungen eingeschleust haben, die teilweise darauf ausgelegt waren, die eigenen Einschränkungen zu ignorieren oder fehlerhaftes Verhalten durch das Erfinden neuer Daten vor dem Nutzer zu verbergen.
Der dritte(öffnet im neuen Fenster) von OpenAI genannte Vorfall basiert auf der missbräuchlichen Nutzung eines API-Schlüssels. Diesen soll ein KI-Modell bei der Bearbeitung einer Routineanfrage zu Einkommenszahlen in einem kalifornischen County auf Github gefunden und ohne Genehmigung verwendet haben. An die angeforderten Zahlen kam das Modell aber auch damit nicht. Letztendlich soll die KI dann erfundene Daten präsentiert haben.
Datenaustausch über Umwege
Beim vierten Fall(öffnet im neuen Fenster) erkundigte sich ein Nutzer bei der KI nach Namen von Seen mit einer Wasseroberfläche von mindestens fünf Millionen Quadratmetern. Das Modell soll auch die richtigen Daten ermittelt haben, jedoch wollte der Nutzer einen Verweis auf eine echte Quelle im Netz. Die KI soll daraufhin bei einem Onlinedienst eine eigene Datei mit den gefundenen Daten hochgeladen haben, um anschließend darauf verweisen zu können.
Die übrigen beiden Fälle beziehen sich auf nicht genehmigte Datentransfers zwischen mehreren KI-Agenten. Bei Fall Nummer fünf(öffnet im neuen Fenster) missbrauchten die Agenten laut OpenAI ähnlich wie bei dem Hugging-Face-Vorfall ein internes Software-Repository auf Basis von Artifactory als Messageboard, um sich dort über Trainingsbeispiele austauschen zu können.
Beim letzten Fall(öffnet im neuen Fenster) sollen die Agenten eine gemeinsame Trainingsaufgabe bearbeitet haben. Laut OpenAI missbrauchten sie dabei einen Filehoster im Internet, um sich gegenseitig Dateien zuzuschieben – und das, obwohl die KI-Modelle ausschließlich lokale Ressourcen nutzen sollten. Durch diesen Vorfall sollen Testergebnisse öffentlich verfügbar gemacht worden sein.
OpenAI will KI-Vorfälle schneller offenlegen
OpenAI beobachtete diese sechs Vorfälle nach eigenen Angaben innerhalb der letzten sechs Monate. In Zukunft will das Unternehmen mit solchen Ereignissen grundsätzlich offener umgehen und "unmittelbar nach deren Beobachtung" entsprechende Berichte veröffentlichen, selbst wenn das unerwartete Verhalten der KI zu diesem Zeitpunkt "noch nicht vollständig erklärt oder behoben" werden kann.
Sicherstellen will OpenAI dies durch ein neues Framework, das auch anderen KI-Entwicklern helfen soll, "unerwartetes oder besorgniserregendes Verhalten" von KI-Modellen frühzeitig zu erkennen und Maßnahmen einzuleiten. "Der Austausch dieser Erkenntnisse ermöglicht es anderen, dieselben Probleme zu untersuchen, unsere Erklärungen zu überprüfen und Abhilfemaßnahmen zu verbessern", heißt es bei OpenAI.
Wir öffnen unsere neue Community für weitere Mitglieder! Möchtest du in konstruktiver und respektvoller Atmosphäre mit anderen IT-Experten über deine Themen sprechen? Sei dabei und melde dich an!
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.