Beschwerde eingereicht: ChatGPT macht Norweger zum Kindermörder
Eigentlich wollte Arve Hjalmar Holmen nur wissen, was die künstliche Intelligenz ChatGPT über ihn weiß. Doch was er als Antwort erhielt, erschütterte und erschreckte ihn zutiefst: Der Chatbot behauptete, der Norweger habe zwei seiner drei Kinder ermordet und auch versucht, sein drittes Kind zu töten. Angeblich sei er deshalb sogar zu 21 Jahren Haft verurteilt worden. Doch nichts davon ist wahr.
Besonders erschreckend an der erfundenen Geschichte ist, dass sie auch korrekte persönliche Fakten enthielt. Die Anzahl und das Geschlecht seiner Kinder sowie seine Heimatstadt waren korrekt. Dementsprechend schockiert zeigte sich der Beschwerdeführer: "Manche denken, dass es keinen Rauch ohne Feuer gibt. Die Tatsache, dass jemand diese Inhalte lesen und für wahr halten könnte, macht mir am meisten Angst."
Aufgrund dieser schwerwiegenden und verleumderischen Falschbehauptungen reichte nun der österreichische Datenschutzverein Noyb (None of your Business) im Namen von Holmen bei der nationalen norwegischen Datenschutzbehörde Datatilsynet eine Beschwerde ein(öffnet im neuen Fenster) .
OpenAI soll gegen DSGVO verstoßen
Noyb wirft dem hinter ChatGPT stehenden Unternehmen OpenAI konkret vor, gegen den Grundsatz der Datenrichtigkeit gemäß Artikel 5(1)(d) der DSGVO zu verstoßen. OpenAI verweist darauf, dass es bereits einen Hinweis gebe, wonach ChatGPT Fehler machen könne.
Damit spielt OpenAI auf sogenannte Halluzinationen an. Die sind ein grundsätzliches Problem von KI-Programmen, die mit deren Funktionsweise zusammenhängen. Die Software wird mit riesigen Mengen an Informationen angelernt. Beim Formulieren von Texten entscheidet sie Wort für Wort, wie ein Satz weitergehen soll. Dabei können jedoch völlig falsche Angaben herauskommen.
Nach Ansicht von Noyb reiche dieser "winzige Hinweis" jedoch nicht aus und könne das Gesetz keinesfalls außer Kraft setzen. "Die gesetzlichen Verpflichtungen zur Datenrichtigkeit lassen sich aber nicht mit einem Haftungsausschluss umgehen" , betont der Datenschutzverein. Zudem kritisiert Noyb, dass OpenAI auch das Auskunftsrecht gemäß Artikel 15 DSGVO nicht erfülle. Dadurch werde es Betroffenen unmöglich gemacht, nachzuvollziehen, welche personenbezogenen Daten konkret über sie verarbeitet würden.
Norweger wird nicht mehr als Mörder bezeichnet
OpenAI reagierte mittlerweile auf die Kritik und führte eine Neuerung bei ChatGPT ein: Statt ausschließlich auf die gelernten Daten zurückzugreifen, überprüft die KI nun bei Anfragen zu konkreten Personen auch aktuelle Informationen aus dem Internet.
Für Arve Hjalmar Holmen bedeutet dies konkret, dass ChatGPT nun keine falschen Behauptungen mehr über ihn verbreitet. Dennoch fordert Noyb von der Datenschutzbehörde die Verhängung einer Geldstrafe, um zukünftige Verstöße gegen Datenschutzbestimmungen besser zu verhindern.