OpenAI: Landesdatenschützer wollen ChatGPT prüfen

Die Datenschutzbeauftragten der Länder haben angekündigt, ChatGPT genauer anzusehen. Dabei gehe es nicht nur um Datenschutz und DSGVO.

Artikel veröffentlicht am 6. April 2023, 10:03 Uhr, Moritz Tremmel/dpa

Datenschutzbeauftragte beschäftigen sich mit ChatGPT. (Bild: Alexandra Koch/Pixabay)

Die Datenschützer der Bundesländer nehmen einem Bericht zufolge den auf künstlicher Intelligenz basierenden Text-Automaten ChatGPT genauer unter die Lupe. "Die Taskforce KI der Datenschutzkonferenz hat das Thema übernommen", sagte die Vorsitzende des Gremiums, Schleswig-Holsteins Datenschutzbeauftragte Marit Hansen, dem Medienhaus Table.Media.

"Offensichtlich sind die Risiken umfassender als 'nur' Datenschutz, so dass nicht nur Datenschutzaufsicht und Landesmedienanstalten gefordert sind, sondern auch Politik und Gesetzgebung", sagte Hansen.

Es habe schon Datenpannen bei ChatGPT gegeben, Nutzer hätten die Anfragen fremder Menschen oder auch Unterhaltungen mit ChatGPT sehen können, sagte Hansen der dpa auf Nachfrage. "Das ist deswegen besonders bedenklich, weil sich einige Nutzende dem KI-System anvertrauen und sogar intime Fragen stellen", sagte Hansen.

"Das wird dadurch begünstigt, dass ChatGPT sprachlich so auftritt wie ein angenehmer menschlicher Zeitgenosse." Zudem seien Fragen zur Einhaltung der Datenschutzgrundverordnung zu klären, etwa zur Verarbeitung personenbezogener Daten sowie zur Datensicherheit, so Hansen weiter.

Probleme mit ChatGPT auch jenseits des Datenschutzes

Hansen verwies zudem auf Fragen abseits des Datenschutzes, etwa wenn sich Menschen auf falsche Antworten verlassen – ein kritischer Punkt beispielsweise bei der Behandlung von Krankheiten. Zudem könnten Antworten manipulativ wirken oder Fragen "gefärbt beantwortet" werden. "ChatGPT ist keine verlässliche Suchmaschine! So wird das Tool aber häufig genutzt", erklärte Hansen.

In Italien wurde ChatGPT vorläufig gesperrt. Die Datenschützer in Rom werfen dem Start-up OpenAI vor, dass es seinen Nutzern nicht mitteile, welche ihrer Informationen gespeichert werden. Zudem habe das Unternehmen keine rechtliche Grundlage für die Sammlung und Speicherung der Daten. Darüber hinaus gebe es keine adäquaten Filter oder Sperren für Kinder unter 13 Jahren, die laut Geschäftsbedingungen den Chatbot von OpenAI nicht nutzen dürften.