Strafverfolgung: OpenAI zur Herausgabe von Nutzerdaten gezwungen
Das US-Ministerium für Innere Sicherheit (Department of Homeland Security, DHS) hat einen Beschluss erwirkt, der OpenAI dazu zwingt, einen ChatGPT-Nutzer anhand seiner Prompts zu identifizieren und dessen Daten herauszugeben.
Wie Forbes berichtet,(öffnet im neuen Fenster) versuchten Beamte des DHS seit einem Jahr, die Identität des Betreibers einer Webseite mit kinderpornografischen Inhalten im Darknet festzustellen. Zu diesem Zweck chatteten sie verdeckt mit einer verdächtigen Person in einem anonymen Forum.
Prompts waren nicht belastend
Während dieser Chats gab der Verdächtige preis, dass er ChatGPT verwende, und nannte auch Prompts, die er dort eingegeben habe. Die Prompts selbst waren zwar nicht belastend, konnten aber vom DHS dazu verwendet werden, um von OpenAI Informationen über den Benutzer zu erhalten, der diese ChatGPT-Eingaben gemacht hatte.
Darunter befanden sich Namen und Adressen sowie Zahlungsdaten, die mit dem entsprechenden ChatGPT-Account verknüpft waren, sowie Details zu anderen Prompts, die der Anwender eingegeben hatte.
Präzedenzfall für KI-Chatbots
Der Fall zeigt laut Forbes, wie US-amerikanische Strafverfolgunsbehörden ChatGPT-Eingaben nutzen können, um beim Verdacht auf kriminelle Aktivitäten Daten über Nutzer zu sammeln. Diese Art der Informationsbeschaffung sei zuvor nur bei großen Suchmaschinenanbietern wie Google verwendet worden, heißt es weiter.
In diesen Fällen wurden Eingaben in die Suchmaschine verwendet, um Nutzer zu identifizieren. Zur Identifizierung des Verdächtigen waren die Daten von OpenAI in diesem Fall letztendlich nicht nötig, da dieser in dem anonymen Forum auch Angaben machte, die ihn mit dem US-Militär in Verbindung brachten.
Bei der identifizierten Person wird nun davon ausgegangen, dass sie auch bei 15 weiteren Webseiten mit kinderpornografischen Inhalten im Darknet entweder als Moderator oder als Administrator aufgetreten ist.
Unter bestimmten Umständen meldet OpenAI ChatGPT-Verläufe auch selbst an die Strafverfolgungsbehörden .