Datenschutz bei KI: OpenAI lässt KI-Prompts von Menschen lesen
OpenAI beschäftigt Hunderte externe Mitarbeiter, die Chateingaben von ChatGPT-Nutzern lesen und bewerten. Das geht aus internen Dokumenten hervor, die dem Magazin 404 Media(öffnet im neuen Fenster) vorliegen. Demnach können die geprüften Prompts dabei vollständige Unterhaltungen umfassen, um die Antworten der KI zu optimieren. Laut dem Bericht setzen auch andere Anbieter wie Anthropic auf menschliche Überprüfung. Anthropic beschränkt diese Überprüfung allerdings auf Nutzer mit aktivierter Opt-in-Einstellung und entfernt vorab Kontokennungen wie E-Mail-Adressen. Google weist bei Gemini ebenfalls darauf hin, dass Menschen einige gespeicherte Chats überprüfen.
Die Evaluierung erfolgt im Rahmen eines Projekts mit dem Codenamen Project Lily. Externe Mitarbeiter erhalten über Dashboards Zugriff auf reale Prompts. Sie fassen die Anfragen zusammen und bewerten vier von ChatGPT generierte Antwortoptionen auf einer Skala von 1 bis 7. Zudem kennzeichnen sie unpassende Abschnitte wie übermäßigen Emojieinsatz oder eine unpassende Tonalität. Antworten sollen professionell und hilfreich bleiben, ohne den Eindruck zu erwecken, menschlich zu sein oder Emotionen zu empfinden.
Anonymisierung mit Einschränkungen
OpenAI filtert Prompts vor der Weiterleitung an die Prüfer mit dem Modell Privacy Filter(öffnet im neuen Fenster). Das Unternehmen räumt jedoch ein, dass dieser Filter seltene Identifikatoren oder private Referenzen im Kontext übersehen kann. In den Dashboards der Prüfer fehlen zwar Nutzernamen, allerdings enthalten manche Datensätze Zusammenfassungen früherer Chatverläufe, die Standorte oder persönliche Informationen preisgeben. Prüfer sollen zwar keine aktiven Recherchen zur Faktenprüfung durchführen, jedoch auffällige Faktenfehler markieren, insbesondere bei medizinischen, rechtlichen und finanziellen Antworten.
Das Lesen der Prompts betrifft Konten mit aktivierter Datennutzung zur Modellverbesserung. Diese Option ist bei kostenlosen Plänen sowie Plus- und Pro-Abonnements standardmäßig aktiviert. Nutzer müssen die Funktion aktiv in den Einstellungen deaktivieren, um die Verarbeitung zukünftiger Unterhaltungen zu unterbinden. Bei Unternehmenskonten für Geschäftskunden und Bildungseinrichtungen ist diese Option dagegen standardmäßig deaktiviert.
Rekrutierung über Zwischenhändler
Die Vermittlung der Arbeitskräfte erfolgt über Dienstleister wie Crossing Hurdles und den Dienst Mercor. Ein von 404 Media befragter Mitarbeiter aus Nordamerika gibt an, mehr als 50 US-Dollar pro Stunde zu erhalten.
Fast täglich gibt es Neues aus der KI-Welt – ein neues Produkt hier, aktuelle Forschung da: Vielleicht ist es ein Durchbruch! Doch wie ist das zu bewerten? Mit dem Golem-Newsletter AI Lab Report behaltet ihr den Überblick über die wichtigsten Entwicklungen. Der Newsletter ist kostenlos, ihr könnt ihn hier abonnieren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.