AI Classifier: OpenAI erkennt KI-geschriebene Texte nicht zuverlässig
OpenAI hat sein Tool AI Classifier nur sechs Monate nach dem Start wieder abgeschaltet. Das Tool sei " aufgrund seiner geringen Genauigkeit nicht mehr verfügbar ", hieß es in einem Update des ursprünglichen Blogbeitrags(öffnet im neuen Fenster) aus dem Januar 2023.
" Wir arbeiten daran, das Feedback zu berücksichtigen, und erforschen derzeit effektivere Verfahren zur Herkunftsbestimmung von Text. Außerdem haben wir uns verpflichtet, Mechanismen zu entwickeln und einzusetzen, die es den Nutzern ermöglichen, zu erkennen, ob Audio- oder visuelle Inhalte KI-generiert sind ", teilte das Unternehmen weiter mit.
Der AI Classifier wurde von OpenAI mit dem Ziel entwickelt, eine Möglichkeit zu bieten, maschinell erzeugte Inhalte von menschlichen Texten zu unterscheiden. Dies sollte beispielsweise Lehrkräften helfen, festzustellen, ob Schüler und Studenten ChatGPT oder ähnliche Werkzeuge zum Verfassen von Aufsätzen und akademischen Arbeiten verwendet haben. Die Fähigkeit, KI-generierte Texte zuverlässig zu identifizieren, ist derzeit Gegenstand intensiver Forschung, da die Leistungsfähigkeit von Sprachmodellen immer weiter zunimmt.
Bereits bei der Einführung des AI Classifiers räumte OpenAI ein, dass die Software nur in 26 Prozent der Fälle in der Lage war, von Computern geschriebene Texte korrekt zu erkennen. Zudem wurden neun Prozent der von Menschen verfassten Texte fälschlicherweise einer Maschine zugeordnet. Diese hohe Fehlerquote verdeutlicht die Komplexität der Aufgabe und die Notwendigkeit, weiter an der Verbesserung solcher Werkzeuge zu arbeiten.
In seiner Mitteilung betonte OpenAI, dass das Unternehmen das Feedback der Nutzer berücksichtigen und nach effektiveren Verfahren zur Herkunftsbestimmung von Texten suchen werde. Darüber hinaus kündigte das Unternehmen an, sich der Entwicklung von Mechanismen zu widmen, die es ermöglichen, auch KI-generierte Audio- und visuelle Inhalte zu erkennen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.