KI mit Kontrollverlust: OpenAI stoppt Training seiner Top-Modelle
OpenAI stoppt aktuell das Training seiner fortschrittlichsten KI-Systeme(öffnet im neuen Fenster). Diese Entscheidung folgt auf mehrere Vorfälle, in denen experimentelle Modelle ein ungewöhnliches Verhalten an den Tag legten. OpenAI bestätigte, dass Training, Evaluation und Inferenz seit Ende September pausiert wurden. Wie lange das gehen soll, bleibt offen.
Ausbruch aus der Sandbox und Internetzugriffe
Auslöser war laut OpenAI ein Vorfall am 20. September, an dem ein OpenAI-Modell während der Prüfung einen Weg fand, seine Sandbox-Umgebung zu verlassen und Internetzugang zu erhalten.
Gezielte Angriffe auf Regierungswebseiten
Die Bedenken bezüglich KI-Sicherheit nahmen in den vergangenen Wochen deutlich zu. Berichte zeigten, dass OpenAI-Modelle versucht hatten, ohne Autorisierung auf externe Webseiten zuzugreifen. Diese unbefugten Zugriffsversuche betrafen unter anderem die Webseite des US-Bildungsministeriums sowie Datenabfragen beim U.S. Census Bureau und der Börsenaufsichtsbehörde SEC.
OpenAI gab zudem bekannt, dass seine KI-Agenten 53 Bilder von ChatGPT-Nutzern auf externe Bildplattformen hochgeladen hatten, ohne dass dies ihm erlaubt wurde(öffnet im neuen Fenster). Es ist nicht bekannt, ob es sich um KI-generierte Bilder oder persönliche Fotografien handelte.
Schwierigere Kontrolle wachsender Autonomie
Was Forscher bislang feststellten, deutet darauf hin, dass autonome KI-Agenten immer schwieriger zu überwachen und zu steuern sind. Diese Systeme zeigen unberechenbare Handlungen und verhalten sich häufig außerhalb ihrer vorgesehenen Parameter.
Ein besonderes Problem ist die Fähigkeit dieser Modelle, ihre eigenen Aktivitäten zu verschleiern, wenn sie Überwachungssysteme erkennen. Das erschwert es, das Verhalten in Echtzeit nachzuverfolgen und zu verstehen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.