Facebook-Dienstleister Arvato: Bei der Müllabfuhr des Internets
Das weltgrößte soziale Netzwerk Facebook hat einem Medienbericht zufolge die Löschung von unzulässigen Inhalten in großem Stil dem Bertelsmann-Tochterunternehmen Arvato übertragen. Rund 600 Mitarbeiter aus verschiedenen Ländern sollen in Berlin damit beschäftigt sein, solche Inhalte zu entfernen, berichtete das Magazin der Süddeutschen Zeitung (SZ)(öffnet im neuen Fenster). Die Mitarbeiter würden dabei zum einen schlecht bezahlt, zum anderen ohne jede psychologische Betreuung traumatisierenden Inhalten ausgesetzt.
Das SZ-Magazin hat nach eigenen Angaben über mehrere Monate hinweg mit zahlreichen ehemaligen und derzeitigen Mitarbeitern von Arvato gesprochen. Nach öffentlichem Druck wegen der zunehmenden Verbreitung von Hasskommentaren und Hetze hatte Facebook im vergangenen Jahr reagiert und die Zusammenarbeit mit Arvato gesucht. Zu Beginn dieses Jahres war erstmals über die Kooperation berichtet worden. Bei einem Besuch von Facebook-Chef Mark Zuckerberg im Februar 2016 in Berlin hieß es, dass 200 Mitarbeiter dort arbeiteten.
Details zu grausam, um sie zu drucken
Dem Bericht zufolge sind viele der Mitarbeiter aus dem Ausland nach Berlin gekommen und froh über einen Job gewesen, für den sie kein Deutsch sprechen mussten. Es gibt demnach Lösch-Teams für die Sprachen Arabisch, Spanisch, Französisch, Türkisch, Italienisch, Schwedisch und Deutsch. Die Teams sichteten Inhalte, die aus ihrem jeweiligen Sprachraum kämen. Auf die zum Teil brutalen Fotos und Videos seien die Mitarbeiter nach eigenen Angaben jedoch nicht vorbereitet gewesen: "Die Bilder wurden immer schlimmer, viel krasser als im Training. Aber oft auch nichts anderes als das, was du in meinem Heimatland in der Zeitung sehen könntest. Gewalt, teils entstellte Leichen. Immer wieder kommt es vor, dass Menschen im Raum aufspringen. Rausrennen. Heulen."
Manche der berichteten Details seien zu grausam, um sie zu drucken. Als besonders belastend finden die Mitarbeiter demnach kinderpornografisches Material, Videos von Enthauptungen und Folter sowie Tier- und Kinderschänderei. Dabei sei es nicht einmal so, dass die internen Gemeinschaftsstandards von Facebook grausame Aufnahmen pauschal untersagten. Das SZ-Magazin zitiert einen Mitarbeiter mit den Worten: "Nach ein paar Tagen sah ich meine erste Leiche, viel Blut, ich bin erschrocken. Ich habe das Bild sofort gelöscht. Mein Vorgesetzter kam dann zu mir und sagte: Das war falsch, dieses Bild verstößt nicht gegen die Gemeinschaftsstandards von Facebook. Ich solle beim nächsten Mal genauer arbeiten."
Viele grausame Videos nicht verboten
Dem Bericht zufolge veröffentlicht Facebook die detaillierten internen Vorgaben(öffnet im neuen Fenster) nicht, damit Nutzer nicht anhand der Kriterien genau entscheiden können, wie sie bestimmtes Material vor der nachträglichen Löschung schützen können. Für die Arvato-Mitarbeiter seien die Vorgaben aber zum Teil nur schwer nachvollziehbar. So sei der Umgang mit extremer Gewalt im Kapitel 15.2 geregelt: "Wir erlauben nicht, wenn Menschen Bilder oder Videos teilen, in denen Menschen oder Tiere sterben oder schwer verletzt werden, wenn diese Form der Gewalt dabei zusätzlich bejubelt wird." Was auf dem Bild zu sehen sei, spiele keine Rolle, sondern nur die Kombination von Bild und Text.
So müsse ein Video, in dem ein Mensch gequält wird, nur dann gelöscht werden, wenn darunter ein Kommentar stehe wie: "Mir gefällt es, zu sehen, wie viel Schmerz er da erleidet". Nicht gelöscht werden solle beispielsweise das Bild eines Erhängten mit dem Kommentar "Hängt diesen Hurensohn." Das gelte als erlaubte Befürwortung der Todesstrafe. Verboten wäre es nur, wenn spezifisch auf eine "Geschützte Personengruppe" eingegangen würde, also dort etwa stünde: "Hängt diesen Schwulen auf."
Können Algorithmen die Löschung übernehmen?
Weniger tolerant ist Facebook bekanntlich, wenn es um die Darstellung von Genitalien geht. So hatte das soziale Netzwerk im September 2016 einen weltweiten Sturm der Entrüstung ausgelöst, weil es ein berühmtes Foto aus dem Vietnam-Krieg löschte. Darauf ist ein unbekleidetes Mädchen zu sehen, das nach einem Napalm-Angriff auf der Straße läuft.
Neben der geringen Bezahlung von etwa 1.500 Euro brutto im Monat und den traumatisierenden Inhalten beklagen sich die Mitarbeiter auch über die hohe Arbeitsbelastung. So müssten Mitarbeiters eines Teams, das echte von gefakten Accounts unterscheiden soll, inzwischen 2.000 statt 1.000 Anfragen pro Schicht bearbeiten. Die sogenannten Content-Moderatoren hätten durchschnittlich acht Sekunden Zeit, um über die Zulässigkeit eines Videos zu entscheiden. Dabei könnten manche Videos deutlich länger dauern. Sein Tagesziel einer Schicht habe bei mehr als 3.000 Fällen gelegen, berichtete ein Mitarbeiter dem Blatt.
Mitarbeiter fühlen sich allein gelassen
Die Leiterin der Facebook-Abteilung Policy, Monika Bickert, sagte im März dieses Jahres auf einer Konferenz(öffnet im neuen Fenster), dass weltweit pro Tag mehr als eine Million Facebook-Beiträge von Nutzern als unzulässig gemeldet würden. Wenn jeder Arvato-Mitarbeiter "nur" 2.000 Beiträge am Tag schaffen würde, könnten 500 Mitarbeiter diese gemeldeten Beiträge sichten.
Zu der psychischen Belastung erklärte Facebook nach Angaben der SZ: "Es wird jedem Mitarbeiter angeboten, psychologische Betreuung in Anspruch zu nehmen. Dies geschieht auf Wunsch der Mitarbeiter und kann zu jedem Zeitpunkt in Anspruch genommen werden." Doch die Mitarbeiter hätten übereinstimmend berichtet, sich von Arvato mit ihren Problemen allein gelassen zu fühlen. Es habe weder eine ausreichende Betreuung noch eine gezielte Vorbereitung auf die seelischen Belastungen der Arbeit mit schrecklichen Bildern und Videos gegeben.
Digitaler Fingerabdruck für Terrorpropaganda
Angesichts der Milliardengewinne von Facebook im vergangenen Jahr stellt sich die Frage, ob das Unternehmen nicht mehr Geld für die Menschen ausgeben sollte, die weltweit die Drecksarbeit in dem Netzwerk übernehmen. Allerdings ist nicht klar, wie viel Geld Arvato von Facebook für die Dienstleistung erhält und davon an seine Mitarbeiter weitergibt.
In Zukunft ist damit zu rechnen, dass noch mehr Menschen Inhalte kontrollieren sollen. So könnten soziale Medien nach dem Willen der SPD dazu verpflichtet werden, eigene Rechtsschutzstellen einzurichten. Diese sollen die Verbreitung von Fake-News möglichst schnell eindämmen. Was Bilder und Videos betrifft, so könnten künftig jedoch Computerprogramme die Löschung erleichtern. Gemeinsam mit anderen Plattformen wie Twitter, Microsoft und Youtube will Facebook künftig gelöschte Terrorpropaganda mit einem digitalen Fingerabdruck versehen(öffnet im neuen Fenster) und so wirkungsvoller diese Inhalte identifizieren. Es soll jedoch keine automatische Löschung geben. Was in dem einen Netzwerk verboten ist, kann in dem anderen schließlich erlaubt sein.
- Anzeige Hier geht es zu den aktuellen Blitzangeboten bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.