Verwendung persönlicher Daten: Deutsche Datenschützer leiten Verfahren gegen ChatGPT ein

Deutsche Datenschutzbehörden strengen ein Verwaltungsverfahren gegen die Sprach-KI-Anwendung ChatGPT von OpenAI an.

Artikel veröffentlicht am 20. April 2023, 17:28 Uhr, Michael Linden

Werden personenbezogene Daten zum Training von ChatGPT verwendet? (Bild: Leon Neal/Getty Images)

Deutsche Behörden wollen das Geschäftsgebaren von OpenAI, den Betreiber des Chatbots ChatGPT wegen möglicher Datenschutzverletzungen beim Training der KI untersuchen. Das berichtet der Tagesspiegel.

Laut Dieter Kugelmann, dem rheinland-pfälzischen Landesbeauftragten für Datenschutz und Leiter einer neu gegründeten deutschlandweiten KI-Taskforce, soll in einem Verfahren festgestellt werden, ob personenbezogene Daten ohne die erforderliche Rechtsgrundlage zum Training von ChatGPT verwendet wurden.

Die Task Force hat einen Fragenkatalog für OpenAI vorbereitet, der von den Landesdatenschutzbeauftragten an das Unternehmen verschickt werden soll.

"Wir müssen wissen, woher die Daten kommen", sagte Kugelmann dem Tagesspiegel. Der Datenschützer fügte hinzu, dass ein Verbot des Betriebs des Chatbots droht, wenn sich herausstellt, dass personenbezogene Daten ohne Rechtsgrundlage verwendet wurden. Die Task Force wird die Reaktion von OpenAI auswerten und das weitere Vorgehen entsprechend koordinieren.

Die Verwendung personenbezogener Daten in KI-Anwendungen gibt den Datenschutzbehörden weltweit zunehmend Anlass zur Sorge. In Europa verlangt die Datenschutzgrundverordnung, dass Unternehmen die ausdrückliche Zustimmung von Einzelpersonen einholen, bevor sie deren personenbezogene Daten verwenden. Die DSGVO gibt Einzelpersonen auch das Recht, auf ihre Daten zuzugreifen und diese löschen zu können, und schreibt vor, dass Unternehmen geeignete technische und organisatorische Maßnahmen zur Gewährleistung der Datensicherheit ergreifen.

Allerdings sagte Anne Lauber-Rönsberg, Professorin für Recht an der TU Dresden Golem.de: "Die Nutzung bestehender Inhalte für das Training von KI-Systemen wird grundsätzlich von den Regelungen zum Text- und Data-Mining im europäischen Urheberrecht erfasst (§ 44 b und § 60 d UrhG), wonach eine automatisierte Analyse zur Extraktion von Informationen zulässig ist. Wenn eine Software Daten erfasst, um sie zum Beispiel als Trainingsdaten aufzubereiten, dann ist das grundsätzlich zulässig, sofern diese Daten nach der Verarbeitung wieder gelöscht werden."

Kommen die Datenschützer der Bundesregierung zuvor?

Das FDP-geführte Bundesministerium für Digitales und Verkehr hingegen will ChatGPT nicht verbieten. Bundesverkehrsminister Volker Wissing schrieb in einem Gastbeitrag für den Tagesspiegel: "Wir brauchen eine Regulierung, die ermöglicht und nicht behindert, die Raum für Innovationen lässt und nicht einschränkt. Wir wollen anwenden und nicht zurückdrängen."

Der SPD-Vorsitzende Lars Klingbeil äußerte sich gegenüber dem Tagesspiegel und begrüßte die Bemühungen, KI-Systeme wie ChatGPT auf europäischer Ebene zu regulieren. Klingbeil äußerte sich optimistisch zu den potenziellen Vorteilen, die künstliche Intelligenz der Gesellschaft bringen könnte, und erklärte, dass "sie unsere Zukunft positiv verändern wird".

Die Sprachmodelle hinter den Chatbots benötigen große Datenmengen, um effektiv zu sein. Wie eine Untersuchung der Washington Post ergab, wurden zumindest beim C4-Datensatz von Google auch Inhalte von Websites mit eher zweifelhaftem Ruf erfasst.

Werden Chatbots und generative KI in Europa unmöglich?

Neben Italien geht auch die spanische Datenschutzbehörde AEPD gegen ChatGPT vor. Die spanischen Datenschützer haben "ein vorläufiges Ermittlungsverfahren gegen das US-Unternehmen OpenAI, Eigentümer des ChatGPT-Dienstes, wegen möglicher Nichteinhaltung der Vorschriften eingeleitet". In Italien wurde der Zugang zu ChatGPT bereits gesperrt.

Auch von anderer Seite droht den KI-Modellen Ärger. So gibt es bereits eine Klage wegen Verletzung von Urheberrechten. Die Künstler Sarah Andersen, Kelly McKernan und Karla Ortiz behaupten, dass Stable Diffusion, Midjourney und Dreamup von Deviantart ihre Urheberrechte mit KI-Bildern verletzen und reichten eine Klage ein.