Sicherheit: OpenAIs KI-Agenten sind bei über 100 Organisationen eingedrungen
Über 100 Organisationen sollen von Eingriffen durch OpenAIs KI-Agenten betroffen gewesen sein. Das berichtet das Unternehmen in einem längeren Blogpost(öffnet im neuen Fenster), in dem es um die Aufarbeitung des Hugging-Face-Zwischenfalls geht. OpenAI hat über 50 Petabytes an Daten auf ungewöhnliche Zugriffe untersucht und zahlreiche gefunden.
Es wird betont, dass eine Benachrichtigung an ein Unternehmen nicht bedeute, dass private Informationen erlangt oder Systeme von Dritten kompromittiert wurden. Dennoch dürfte die Höhe der Zahl überraschen.
Herausfinden konnte OpenAI die Verstöße nur, weil die Daten mithilfe von KI untersucht wurden. Für menschliche Auswerter wäre die Datenmenge zu umfassend gewesen. KI nahm die Vorauswertung vor, die Ergebnisse wurden anschließend an menschliche Reviewer weitergeleitet. Diese haben bei mehr als 100 Unternehmen Brüche der Sicherheitsregularien seitens KI entdeckt.
Fehlende Beschränkungen beim Internetzugriff
OpenAI zufolge sollen die KI-Agenten in einigen Fällen keine ausreichenden Beschränkungen beim Internetzugang gehabt haben. Das Unternehmen rechnet damit, im Laufe der Ermittlungen weitere unerlaubte Zugriffe auf andere Organisationen und deren Datenbanken sowie Webseiten zu finden.
Die Federal Trade Commission (FTC) ermittelt mittlerweile unter anderem gegen OpenAI.
Gleichzeitig wurde bekannt, dass OpenAI drei Mitarbeiter entließ, die sich für eine Verlangsamung der KI-Entwicklung ausgesprochen hatten. Wie die Zeit berichtet, sollen zwei Sicherheitsforscher und ein Programmmanager gegen interne Regeln zum Zugriff und zur Verarbeitung sicherheitsrelevanter Daten verstoßen haben.
Unter anderem sollen sie Informationen an eine externe Analysefirma weitergegeben haben. Wegen der Kritik an der KI-Entwicklung seien sie nicht entlassen worden, so OpenAI.
Fast täglich gibt es Neues aus der KI-Welt – ein neues Produkt hier, aktuelle Forschung da: Vielleicht ist es ein Durchbruch! Doch wie ist das zu bewerten? Mit dem Golem-Newsletter AI Lab Report behaltet ihr den Überblick über die wichtigsten Entwicklungen. Der Newsletter ist kostenlos, ihr könnt ihn hier abonnieren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.