Von OpenAI entlassen: KI-Trainer nutzte KI für KI-Training
OpenAI setzt auf eine Vielzahl von Auftragnehmern, die reale Prompts und Konversationen von ChatGPT-Nutzern prüfen. Laut einem internen Dokument, das 404 Media(öffnet im neuen Fenster) vorliegt, können die Projekte mehr als zehntausend Personen umfassen. Diese Arbeitskräfte bewerten und kritisieren die von ChatGPT generierten Antworten. Mehrere dieser Personen haben die Dienstleister inzwischen entlassen. Sie hatten selbst KI für ihre Aufgaben verwendet.
Strenge Vorgaben gegen künstliche Intelligenz
Die internen Vorgaben verbieten Auftragnehmern jedoch die Nutzung von KI. Prüfer, die die Arbeit anderer kontrollieren, dürfen zudem keine KI-Detektoren wie GPTZero einsetzen, da diese unzuverlässig seien. Auch Grammarly und KI-Übersetzungen sind für Feedback und Kommentare tabu. Die Prüfer sollen auf typische Merkmale achten. Dazu zählen repetitive Wörter, KI-typische Zeichensetzung wie gehäufte Gedankenstriche und auffällig kurze Bearbeitungszeiten.
Zwei der drei von 404 Media befragten Auftragnehmer arbeiteten für das KI-Trainingsunternehmen Mercor. Ein Sprecher von Mercor erklärte 404 Media, die Verträge untersagten die Nutzung von LLMs strikt. Bestätigte Verstöße führten zur sofortigen Entfernung aus dem Projekt. Eine betroffene Person legte 404 Media ein Schreiben vor, das sie als Kündigung bezeichnete. Der Arbeitgeber bemängele darin die Authentizität ihrer Arbeit. Sie habe nur etwas Unterstützung gebraucht und keine Freude an der Arbeit gehabt, sagte sie. Ein weiterer Auftragnehmer sagte, Kollegen nutzten ständig KI und würden dafür ständig entlassen. KI-Nutzung sei praktisch das Einzige, was zum sofortigen Rauswurf führe.
Sabotage und Modellkollaps
Eine weitere Person, die für verschiedene KI-Unternehmen Modelle trainierte, sagte 404 Media, dass sie bisweilen bewusst die schlechteste Antwort gewählt habe. So habe sie das Training sabotieren wollen. Ob OpenAI-Projekte betroffen waren, geht aus dem Bericht nicht hervor. Heikel ist der KI-Einsatz, weil Modelle, die mit KI-generierten Texten weitertrainiert werden, immer schlechter werden können. Fachleute sprechen von Modellkollaps. Menschliche Bewertungen sollen dem unter anderem entgegenwirken. OpenAI wollte sich gegenüber 404 Media nicht zu den Entlassungen äußern.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.