Soziale Medien: Sauberes Netz, schmutzige Hände
Der Gegensatz könnte nicht deutlicher sein: Während sich Spitzenkräfte der Tech-Konzerne Jahresgehälter im dreistelligen Millionenbereich sichern und KI-Modelle als Durchbruch für die digitale Zukunft gefeiert werden, arbeiten im Hintergrund Menschen zu Niedriglöhnen an der unsichtbaren Wartung dieser Systeme.
Content-Moderatoren und Datenarbeiter in Ländern des globalen Südens halten soziale Netzwerke und KI-Modelle sauber – unter Bedingungen, die kaum jemand im Westen wahrnimmt. Täglich müssen sie Gewalt, Missbrauch und verstörendes Material sichten, oft ohne ausreichenden Schutz, psychologische Betreuung oder faire Bezahlung.
Trotz wachsender Abhängigkeit von diesen Arbeitskräften findet im deutschsprachigen Raum kaum eine öffentliche oder politische Debatte über diese Schattenarbeit statt.
Ausbeutung hinter sozialen Medien
Ein Bericht der Menschenrechtsorganisation Equidem (PDF)(öffnet im neuen Fenster) dokumentiert anhand von Interviews mit 113 Content-Moderatoren und Datenarbeitern aus Ländern wie Kenia, Kolumbien und den Philippinen unwürdige Arbeitsbedingungen. Die unsichtbaren Gatekeeper filtern täglich die abscheulichsten Inhalte aus den sozialen Netzwerken und machen KI-Systeme wie ChatGPT erst nutzbar.
Die Untersuchung zeichnet ein düsteres Bild: Viele der Befragten erleiden schwere psychische Traumata bis hin zu posttraumatischen Belastungsstörungen, sexuelle Traumatisierungen und wirtschaftliche Not. Tech-Konzerne lagern diese risikoreichen Jobs an Subunternehmer in Niedriglohnländern aus und entziehen sich so ihrer Verantwortung.
Die scheinbar saubere Onlinewelt beruht damit auf dem Leid eines ausgelagerten Prekariats – mit gravierenden Folgen für die Betroffenen.
Wenn Moderation krank macht
Content-Moderatoren sind rigorosen Bedingungen unterworfen. Marathon-Schichten von weit über zwölf Stunden und extreme Taktvorgaben sind keine Seltenheit: Ein Mitarbeiter in Kolumbien musste pro Schicht etwa 1.000 Beiträge prüfen – im Schnitt nur wenige Sekunden pro Fall(öffnet im neuen Fenster).
Pausen sind knapp bemessen, Vorgesetzte überwachen jeden Klick; befristete Verträge und ständige Qualitätskontrollen setzen die Betroffenen zusätzlich unter Stress. Viele entwickeln Depressionen, Angststörungen oder Suizidgedanken.
Vor allem Frauen berichten von sexuellen Traumata: Eine kenianische Moderatorin fühlte sich nach dem täglichen Anblick brutaler Vergewaltigungsvideos abgestumpft und verlor das Verlangen nach Intimität. Die psychischen Wunden verschwinden nicht mit dem Dienstschluss, die Bilder verfolgen die Betroffenen in den Schlaf und hinterlassen tiefe Narben.
Schweigen unter Zwang
Das Thema ist nicht neu: Schon 2023 gab es Berichte über die systematische Auslagerung von Moderationsarbeit und Datenlabeling an Subunternehmen in Billiglohnländern.
Geheimhaltungsverträge (NDAs) zwingen die Beschäftigten zum Schweigen über ihre Arbeitsbedingungen. Offiziell sollen sie vertrauliche Unternehmensinformationen schützen, de facto dienen NDAs jedoch als Maulkorb, der institutionalisierte Ausbeutung verdeckt.
Bei vielen Betroffenen stauen sich Sorgen und Traumata dadurch innerlich an: "Ich habe ein NDA unterschrieben und alles in mir aufgestaut", zitiert der Equidem-Bericht einen Moderator. Die Angst vor Konsequenzen ist allgegenwärtig: Wer Missstände anspricht oder versucht, sich gewerkschaftlich zu organisieren, riskiert Kündigung, Klagen – oder auf eine schwarze Liste in der Branche zu kommen.
Die Verantwortung der Plattformen
Nicht einmal gegenüber der Familie oder Therapeuten dürfen sie über ihre Erlebnisse sprechen, was professionelle Hilfe zusätzlich erschwert. So wird das Grundrecht auf Beschwerde und Selbstschutz ausgehebelt – die Betroffenen bleiben isoliert.
Internationale Tech-Konzerne stehen in der Pflicht, auch ihre ausgelagerten Arbeitskräfte zu schützen. Zwar verweist Meta auf angeblich überdurchschnittliche Löhne, psychologische Betreuung und Gewerkschaftsfreiheit bei seinen Dienstleistern, doch die Realität sieht oft anders aus.
"Firmen wie Facebook und Tiktok dürfen sich nicht hinter Outsourcing verstecken", mahnt die globale Gewerkschaftsallianz(öffnet im neuen Fenster) und fordert faire Löhne und Mitsprache für die Moderatoren. Mancherorts schreiten Behörden ein: In Kolumbien wurde gegen den Dienstleister Teleperformance ermittelt.
Zudem verpflichtet das deutsche Lieferkettengesetz Unternehmen, auch bei ihren Auftragnehmern Arbeits- und Menschenrechte einzuhalten. Diese Verantwortung darf nicht auf Freiwilligkeit beruhen. Es braucht verbindliche internationale Standards und Kontrollen.
Globale Mindeststandards
Das Problem ist global und erfordert internationale Lösungen. Ende April 2025 schlossen sich Content-Moderatoren aus neun Ländern zur ersten weltweiten Allianz zusammen, um gemeinsam gegen die Missstände zu kämpfen.
Auch die Internationale Arbeitsorganisation (ILO) ist gefordert: Experten plädieren für ein Abkommen, das Mindeststandards für Moderationsarbeit weltweit festschreibt – etwa zu Arbeitszeit, psychologischer Betreuung und Entlohnung.
Mit der ILO-Konvention 190 gegen Gewalt und Belästigung am Arbeitsplatz existiert bereits ein globaler Rahmen. Zudem plant die EU strengere Sorgfaltspflichten in Lieferketten, die auch digitale Arbeit erfassen könnten.
Algorithmwatch fordert harte Regeln für Konzerne
Die NGO Algorithmwatch beschäftigt sich schon seit Jahren mit Menschenrechten in der digitalen Arbeitswelt. "Unternehmen sind bereits heute durch Gesetze wie das Lieferkettensorgfaltspflichtengesetz (LkSG), die Corporate Sustainability Reporting Directive (CSRD) oder die geplante Corporate Sustainability Due Diligence Directive (CSDDD) verpflichtet, menschenrechtskonforme Arbeitsbedingungen zu gewährleisten", sagte Matthias Spielkamp, Executive Director von Algorithmwatch, im Gespräch mit Golem.
Verstöße seien jedoch schwer zu sanktionieren: "Die Durchsetzung ist derzeit extrem aufwendig, gerade wenn es um US-Konzerne geht." Scharf kritisiert Spielkamp das politische Klima: "Die Europäische Volkspartei (EVP), der auch CDU und CSU angehören, hat im Europäischen Parlament jüngst mit rechtsextremen Parteien kooperiert, um CSRD und CSDDD abzuschwächen."
Auch zur Verantwortung der Konzerne äußert sich Spielkamp unmissverständlich: "Content-Moderatoren arbeiten für Unternehmen, die durch ihre oligopolartige Stellung obszöne Profite erwirtschaften. Es ist erbärmlich, dass sie nicht von sich aus für bessere Arbeitsbedingungen sorgen."
Fehlendes öffentliches Bewusstsein
Der gesetzliche Rahmen sei klar – internationale Initiativen, die Mindeststandards garantieren, existieren längst: "Die Internationale Arbeitsorganisation hat über 190 Konventionen verabschiedet, etwa zu Löhnen, Arbeitszeit und Arbeitsschutz." Doch es hakt auch hier an der Umsetzung. "Diese Verträge müssen nicht nur unterzeichnet, sondern auch gelebt werden. Länder mit großen Märkten wie die EU, die USA oder Japan müssen politischen Druck aufbauen."
Warum diese Missstände politisch kaum wahrgenommen werden, begründet Spielkamp mit fehlendem Bewusstsein: "Wir thematisieren das Thema seit Jahren, etwa in der Studie Nachhaltigkeitskriterien für KI (PDF)(öffnet im neuen Fenster) oder mit Recherchen wie Die KI-Revolution frisst ihre Gigworker(öffnet im neuen Fenster)."
"Doch viele Menschen in Industrieländern interessieren sich wenig für die Arbeitsbedingungen hinter digitalen Diensten – ähnlich wie bei Fast Fashion,"sagt Spielkamp. Zwar sei die Zustimmung zu strengeren Gesetzen hoch, wie eine Umfrage der Zeit belegt(öffnet im neuen Fenster). "Aber nur wenige wissen überhaupt, wie viele Content-Moderatoren und Datenarbeiter unter extrem schlechten Bedingungen arbeiten."
Menschliche Kosten der digitalen Sauberkeit
Die Arbeitsbedingungen von Content-Moderatoren und KI-Datenarbeitern sind ein alarmierendes Symptom der Digitalwirtschaft. Während Tech-Konzerne mit fortschrittlicher KI und Automatisierung werben, stützen sich ihre Plattformen und Modelle in Wahrheit auf ein Heer schlecht bezahlter Menschen, die im Verborgenen das Schlimmste ausfiltern.
Dieser Widerspruch rückt jedoch zunehmend ins Licht: Durch Enthüllungsberichte und mutige Klagen Betroffener lässt sich die Ausbeutung nicht länger verdrängen. Die Debatte hat gerade erst begonnen und sie wirft grundlegende Fragen auf: Wie viel menschliches Leid sind wir bereit, für saubere soziale Netzwerke und KI-Systeme in Kauf zu nehmen (wobei auch in Frage zu stellen ist, wie sauber sie am Ende wirklich sind)? Wie lange wollen Politik und Unternehmen die Augen davor verschließen?
Oliver Jessner(öffnet im neuen Fenster) bringt 15 Jahre Erfahrung in der Softwareentwicklung und Unternehmertum mit und schreibt über Wirtschaft, New Work, Start-ups und KI.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.