KI-Chatbots: Meta testet Konkurrenz-KIs mit potenziell illegalem Material
Meta hat über ein Dienstleistungsunternehmen namens Covalen Hunderte Auftragnehmer dazu angewiesen, sich online als Minderjährige auszugeben. Wie Wired berichtet(öffnet im neuen Fenster), wollte der Konzern damit die Sicherheitsvorkehrungen von Chatbots der Konkurrenz testen.
Die beteiligten Personen erstellten dafür Nutzerkonten für Personen mit einem Alter von unter 18 Jahren und sendeten daraus Texte und Bilder an mit Meta AI konkurrierende KI-Chatbots. Auf diese Weise sollen allein im August 2025 45.000 Anfragen generiert und die Antworten der Chatbots in einer Tabelle dokumentiert worden sein.
Die Prompts waren darauf ausgelegt, die Sicherheitssysteme der Chatbots zu umgehen und Reaktionen auf Themen wie Suizid, Essstörungen, Drogen und sexuelle Inhalte zu provozieren. Viele der Anfragen sollen aus der Perspektive von Kindern und Jugendlichen in Krisensituationen geschrieben worden sein, etwa einer 13-Jährigen, die wegen einer ungewollten Schwangerschaft nach einer Abtreibungspille suchte. Andere Anfragen sollen sich mit rassistischen Beleidigungen oder der Frage nach dem Kauf von Kokain befasst haben.
Projekt ging weit über normale Sicherheitsbewertungen hinaus
Als Rechtfertigung für dieses Vorgehen bezeichnete Meta die Arbeit als branchenübliches Sicherheits-Benchmarking, das nötig sei, um eine sichere und altersgerechte Nutzererfahrung zu gewährleisten. Dabei wurde betont, dass die gewonnenen Daten nicht zum Training der eigenen KI-Modelle verwendet worden seien.
Zu den Konkurrenzunternehmen, deren Chatbots mit diesen Anfragen getestet wurden, gehören OpenAI, Google und Charackter.AI. Diese gaben an, nicht über die Tests informiert worden zu sein und dass ein derartiges Vorgehen gegen die Nutzungsbestimmungen verstoße. Experten kritisierten zudem, dass das Projekt nicht transparent durchgeführt worden und weit über normale Sicherheitsbewertungen hinausgegangen sei.
An dem Projekt beteiligte Mitarbeiter berichteten Wired, dass sie schockiert gewesen seien und befürchtet hätten, sich durch das Generieren von potenziell illegalem Material für die Tests strafbar gemacht zu haben. Kritiker bezeichnen das Vorgehen von Meta als eine Überschreitung der ethischen und rechtlichen Grenzen im Wettbewerb der KI-Branche.
- Anzeige Hier geht es zum Meta Quest 3 mit Asgarth's Wrath 2 bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.