KI und Datenschutz: Wie ChatGPT mich zur Verzweiflung treibt

ChatGPT hat jetzt ein Formular, mit dem sich eigene Daten löschen lassen. Doch wie viel Unsinn kann man damit stoppen? Ein Selbstversuch.

Ein Bericht von Friedhelm Greis veröffentlicht am 14. Mai 2023, 9:00 Uhr

Wenn ChatGPT doch nur Blabla produziert - wie und wozu sollte man dann eigene personenbezogene Daten löschen können? (Bild: Pexels)

Was weiß ChatGPT über mich und woher hat es seine Informationen? Diese Fragen dürften sich in den vergangenen Monaten sehr viele Nutzer gestellt und teilweise sehr merkwürdige Antworten darauf erhalten haben. Inzwischen haben die Entwickler des Chatbots, die Firma OpenAI, ein Formular bereitgestellt, um personenbezogene Daten aus dem System löschen zu lassen. Doch bei all dem Unfug, den ChatGPT zum Beispiel über mich fabriziert ("schreibt seit Jahren für Heise Online"), frage ich mich ernsthaft, wie das funktionieren soll.

Mit dem Formular hat OpenAI auf den Druck europäischer Datenschutzbehörden reagiert. Nachdem die italienische Datenschutzbehörde Anfang April dieses Jahres den Chatbot wegen Bedenken hinsichtlich der Verarbeitung personenbezogener Daten und Verletzungen des Jugendschutzes gesperrt hatte, nahm das Unternehmen einige Änderungen vor. Dazu zählte auch die Bereitstellung des Löschformulars.

Konkrete Prompts eingeben und hochladen

Es richtet sich an die Staaten des Europäischen Wirtschaftsraums, die Schweiz, Großbritannien, die Isle of Man und Japan. Zur Erklärung heißt es: "Im Rahmen bestimmter Gesetze zum Schutz der Privatsphäre oder der Daten, wie z. B. der DSGVO, haben Sie möglicherweise das Recht, der Verarbeitung Ihrer personenbezogenen Daten durch die Modelle von OpenAI zu widersprechen."

Um der Datenverarbeitung zu widersprechen, müssen Nutzer zunächst ihren Namen und ihre E-Mail-Adresse angeben. Dann müssen sie erklären, ob sie das Formular für sich selbst oder eine andere Person ausfüllen. Auch müssen sie angeben, ob sie eine Person des öffentlichen Lebens sind oder nicht.

Dann erfolgt eine wohl sehr schwer zu erfüllende Anforderung: "Bitte geben Sie alle relevanten Eingabeaufforderungen an, die dazu geführt haben, dass das Modell die betroffene Person erwähnt hat. Um Ihre Anfragen ordnungsgemäß bearbeiten zu können, benötigen wir einen eindeutigen Nachweis, dass das Modell aufgrund der Prompts Kenntnis von der betroffenen Person hat." Die Nutzer müssen dazu Screenshots der entsprechenden Anfragen und Antworten hochladen.

Die meisten Personen nicht bekannt

Doch das dürfte gar nicht so einfach sein. Bei vielen Nutzern wird ChatGPT antworten: "Ich habe keine Informationen über eine Person namens Monika Mustermann." Wobei der Bot im Falle von Frau Mustermann sogar weiß, dass dies ein fiktiver Name ist, "der in Deutschland und anderen deutschsprachigen Ländern oft als Platzhaltername verwendet wird, wenn ein Beispielname benötigt wird". Auf Nachfrage sagt der Chatbot dann beispielsweise: "Als KI habe ich keinen Zugriff auf Informationen zu Personen, es sei denn, sie sind öffentlich verfügbar."

De facto kennt ChatGPT sehr viele Personen nicht, über die sich zahlreiche Informationen im Internet finden lassen. Das Modell wertet daher längst nicht so viele Daten aus wie die herkömmlichen Suchmaschinen.

Doch das, was ChatGPT auf der gelernten Datenbasis ausspuckt, ist oft alles andere als zuverlässig, um nicht zu sagen, völliger Blödsinn. So behauptet der Chatbot im Falle des Autors beharrlich, dass dieser für Heise Online schreibt.