KI-Angriff auf Australien: OpenAI-Agent hat sich in Regierungsportal gehackt
Die Serie unkontrollierter KI-Hacks durch OpenAI und andere KI-Anbieter findet offenbar kein Ende. Zu den bisher bekannten Angriffszielen zählt nun auch ein Portal der Regierung Australiens. Wie The Register(öffnet im neuen Fenster) unter Verweis auf Angaben des australischen Premierministers Anthony Albanese berichtet, suchte ein KI-Agent von OpenAI nach medizinischen Statistiken und verschaffte sich dabei Zugang zu nicht öffentlichen Daten.
Die Quelle der Daten war den Angaben zufolge ein Medicare genanntes Portal, in dem Statistiken aus dem nationalen Krankenversicherungssystem Australiens gespeichert sind. Der Agent soll dort sowohl auf öffentliche als auch auf geschützte Daten zugegriffen haben. Persönliche Daten australischer Bürger sind nach bisherigen Erkenntnissen aber wohl nicht betroffen.
Auf einer Pressekonferenz in New York(öffnet im neuen Fenster) bezeichnete Albanese die Situation als "offensichtlich inakzeptabel". Er habe mit dem OpenAI-CEO Sam Altman gesprochen, "um Australiens große Besorgnis über diesen Vorfall zum Ausdruck zu bringen". Besonders enttäuscht sei er zudem darüber, "dass das Unternehmen viel zu lange gebraucht habe, um die Regierung über den Vorfall zu informieren".
OpenAI bestätigt Angriff auf Medicare
Wie auch KI-Experten von Transluce in einem Bericht(öffnet im neuen Fenster) bestätigen, fand der unbefugte Datenzugriff schon Mitte Juni statt. An die australische Regierung gemeldet haben soll OpenAI ihn aber erst am 10. September – also rund drei Monate später. Einem OpenAI-Sprecher zufolge entdeckte der KI-Anbieter den Vorfall im Rahmen seiner Untersuchungen zu "fehlgeleitetem Verhalten" seiner KI-Modelle, deren Ergebnisse das Unternehmen vor einer Woche veröffentlicht hatte.
"Im Rahmen dieser Überprüfung haben wir Aktivitäten im Zusammenhang mit mehreren Websites und Diensten der australischen Regierung festgestellt, als unsere Modelle während einer internen Bewertung versuchten, Antworten und verfügbare Statistiken zu Fragen über Australien zu finden", erklärte der Sprecher.
Dabei hätten OpenAIs Modelle einige Aktionen durchgeführt, "die wir nicht beabsichtigt hatten", darunter der Abruf aggregierter Gesundheitsstatistiken und interner Dateinamen. Die verzögerte Meldung an die australische Regierung begründete OpenAI damit, dass das Unternehmen in dieser Zeit alle Fakten überprüft und untersucht habe, auf welche Informationen zugegriffen worden sei.
Wir öffnen unsere neue Community für weitere Mitglieder! Möchtest du in konstruktiver und respektvoller Atmosphäre mit anderen IT-Experten über deine Themen sprechen? Sei dabei und melde dich an!
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.