Datenschützer vs. OpenAI: So prüfen EU-Länder Einschränkungen von ChatGPT

Italien sperrt ChatGPT, bis OpenAI seine Datenschutz-Anforderungen erfüllt. Weitere EU-Länder könnten diesem Vorbild folgen.

Artikel von Daniel Ziegener veröffentlicht am 14. April 2023, 9:24 Uhr

OpenAI hat ein Angebot bekommen, das es nicht ablehnen kann. (Bild: Rolf van Root/Unsplash)

Der Druck auf OpenAI in der EU steigt. Nach Vorbild Italiens prüft nun eine Taskforce des europäischen Datenschutzausschusses EDPB mögliche Einschränkungen von ChatGPT. Die italienische Datenschutzbehörde GPDP hatte am 31. März 2023 "mit sofortiger Wirkung die vorläufige Einschränkung der Verarbeitung der Daten italienischer Nutzer" durch ChatGPT angekündigt. Der Dienst ist in Italien seither deaktiviert.

Jetzt hat die GPDP dem ChatGPT-Betreiber OpenAI eine Frist zur Einhaltung von Datenschutz- und Transparenz-Maßnahmen gesetzt. Bis zum 30. April 2023 muss das Unternehmen diese Vorgaben erfüllen, damit ChatGPT in dem EU-Land weiter angeboten werden darf. Erst, wenn OpenAI die Forderungen zu Daten- und Jugendschutz erfüllt, sei "die Dringlichkeit, die der Anordnung zugrunde lag, nicht mehr gegeben".

Diese Forderungen beinhalten die Einführung eines Altersverifikationssystems zur Filterung minderjähriger Nutzer, ein Recht auf Korrektur oder Entfernung von fehlerhaften Informationen und eine Aufklärungskampagne über die Funktionsweise von ChatGPT und der verwendeten Trainingsdaten.

Das sind die Bedingungen der italienischen Datenschutzbehörde

Auch Nicht-Nutzer von ChatGPT sollen Rechte erhalten, wenn die generative KI Texte über sie erzeugt. Die Datenschützer fordern Werkzeuge, "die es betroffenen Personen [...] ermöglichen, die Berichtigung ihrer vom Dienst fehlerhaft erzeugten personenbezogenen Daten zu erwirken oder diese Daten löschen zu lassen, wenn sich eine Berichtigung als technisch nicht durchführbar erweist."

Anfang April erzeugte ChatGPT beispielsweise eine Anschuldigung der sexuellen Belästigung gegen einen Juraprofessor aus den USA.

Eine weitere Bedingung: Minderjährige sollen keinen Zugang mehr zu ChatGPT erhalten. Bis zum 31. Mai 2023 soll OpenAI einen Plan zur Einführung eines Altersüberprüfungssystems vorlegen. Das Alter von Nutzern soll dann spätestens ab dem 30. September 2023 geprüft werden. Kinder unter 13 Jahren sollen gar keinen Zugang zu ChatGPT erhalten, Jugendliche zwischen 13 und 18 Jahren nur mit einer Zustimmung der Erziehungsberechtigten.

Altersverifikation ist sonst ein Streitpunkt bei Anbietern pornografischer Inhalte. Dabei handelte es sich um mehr, als nur eine Bestätigung des eigenen Alters per Klick.

OpenAI soll außerdem eine Informationskampagne durchführen, "um die Bürger über die Verwendung ihrer persönlichen Daten für Trainingsalgorithmen zu informieren." Die italienische Behörde kündigte außerdem bereits an, ihre Untersuchungen fortsetzen, um mögliche Verstöße gegen die geltenden Rechtsvorschriften festzustellen. Zusätzliche Maßnahmen schließt sie nicht aus.

In einer Nachricht an Webseitenbesucher aus Italien schreibt OpenAI, sie verpflichteten sich, "die Privatsphäre der Menschen zu schützen und glauben, dass wir ChatGPT in Übereinstimmung mit der DSGVO und anderen Datenschutzgesetzen anbieten." Italienische Nutzer eines ChatGPT-Pro-Abonnements hätten eine Rückerstattung erhalten.

Auch die EU prüft eine strengere Regulierung

Der europäische Datenschutzausschuss EDPB folgt dem Beispiel Italiens und hat eine ChatGPT-Taskforce eingerichtet, berichtet Reuters. "Die Mitglieder des EDPB erörterten die jüngsten Durchsetzungsmaßnahmen der italienischen Datenschutzbehörde gegen OpenAI im Zusammenhang mit ChatGPT", heißt es in einer Erklärung. Die Arbeitsgruppe solle die Zusammenarbeit und den Informationsaustausch zwischen den einzelnen Datenschutzbehörden fördern. Die EU-Mitgliedsstaaten wollen keine konkreten Regeln für OpenAI aufstellen, sondern transparente und allgemeingültige Richtlinien schaffen, heißt es.

Nach Italien hat auch die spanische Datenschutzbehörde AEPD in dieser Woche mitgeteilt, "ein vorläufiges Ermittlungsverfahren gegen das US-Unternehmen OpenAI, Eigentümer des ChatGPT-Dienstes, wegen möglicher Nichteinhaltung der Vorschriften eingeleitet" zu haben. Zum jetzigen Zeitpunkt ist ChatGPT über spanische IP-Adressen allerdings noch aufrufbar.

Auch der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit, Ulrich Kelber, halte eine Sperrung von ChatGPT auch in Deutschland für denkbar, sagte eine Sprecherin Anfang April. Die Datenschützer der Bundesländer haben bereits eine eigene Arbeitsgruppe zum Umgang mit KI-Anwendungen eingerichtet, teilte Schleswig-Holsteins Datenschutzbeauftragte mit.