Facebook: Dokumente zum Umgang mit Sex- und Gewaltinhalten geleakt

Gezeichnete Nacktheit ist okay, fotografierte nicht: Mit derlei Vorgaben sollen Tausende Moderatoren bei Facebook für eine "saubere" Timeline sorgen. Eine britische Zeitung hat jetzt interne Dokumente zugespielt bekommen.

Artikel veröffentlicht am ,
Nutzerin mit Facebook
Nutzerin mit Facebook (Bild: Chris Jackson/Getty Images)

Jede Woche müssen die Moderatoren von Facebook rund 6,5 Millionen als "Fake" gemeldete Profile kontrollieren: Das ist eine der Zahlen von internen Dokumenten des sozialen Netzwerks, die jetzt vom Guardian veröffentlicht wurden. Die britische Zeitung hat auch Informationen darüber zugespielt bekommen, wie die Moderatoren mit Sex und Gewalt umzugehen haben - und auch, dass es sogar Anweisungen für exotisch anmutende Themen wie Kannibalismus gebe.

Stellenmarkt
  1. Junior Consultant SAP Logistik (w/m/d)
    UNIORG Gruppe, Dortmund (remote möglich)
  2. Trainee im Bereich Projektkoordination Strategie m/w/d
    Phoenix Contact GmbH & Co. KG, Blomberg
Detailsuche

Die geleakten Dokumente machen vor allem eines klar: Es gibt keine klaren Vorgaben. Die Entscheidung, ob etwa ein Foto mit Gewalt gegen Kinder aus Sicht von Facebook ein Problem darstellt, ist für den Moderator alles andere als einfach zu bewältigen. Laut dem Guardian könne es nämlich stehenbleiben, falls die Gewalt kein sadistisches Element enthalte oder nicht gefeiert werde. Facebook habe dies bestätigt und erklärt, dass derartige Bilder mit der Absicht erlaubt würden, dem "Kind zu helfen" - gemeint ist damit wohl, dass Verwandte, Bekannte oder Ermittlungsbehörden alarmiert werden könnten.

Derartige manchmal sicherlich einfachen, oft aber auch komplexen Einschätzungen müssen die Mitarbeiter angesichts der schieren Masse an Kommentaren "oft innerhalb von 10 Sekunden treffen", zitiert der Guardian aus einem der Dokumente.

Beim Sex wird es kompliziert

Besonders komplex seien die internen Anweisungen von Facebook beim Thema Sex. Der Guardian zeigt das vor allem anhand von Revenge Porn - damit ist etwa gemeint, dass Intimfotos durch einen betrogenen oder verlassenen Partner ins Netz gestellt werden.

Golem Karrierewelt
  1. Jira für Systemadministratoren: virtueller Zwei-Tage-Workshop
    14./15.02.2023, virtuell
  2. LDAP Identitätsmanagement Fundamentals: virtueller Drei-Tage-Workshop
    07.-09.02.2023, Virtuell
Weitere IT-Trainings

Bei Facebook ist das dann ein Problem, wenn das Foto erkennbar im privaten Umfeld aufgenommen wurde, wenn der oder die Gezeigte zumindest ansatzweise nackt sei und durch den Kontext klar werde, dass die Aufnahme ohne Zustimmung aller Beteiligten veröffentlicht wurde.

Etwas einfacher ist die Lage derzeit bei allen gewöhnlichen Nacktbildern: Wenn es sich um Zeichnungen handelt, sollen sie veröffentlicht werden können - Fotos hingegen nicht.

Facebook hat dem Guardian gesagt, dass generell bestimmte Bilder von Softwarealgorithmen herausgefiltert würden. Aber beispielsweise bei Aufnahmen im Zusammenhang mit Terrorakten sei das Unternehmen nicht zu restriktiv, um Diskussionen über wichtige Vorgänge nicht abzuwürgen.

Facebook hat derzeit rund 1,94 Milliarden Mitglieder. Kürzlich hatte das Unternehmen bekanntgegeben, dass es zurzeit etwa 4.500 Mitarbeiter beschäftigt, die als Moderatoren problematische Inhalte kontrollieren und gegebenenfalls löschen und dass weltweit rund 3.000 weitere Aufpasser hinzukommen sollen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


lottikarotti 01. Jun 2017

+1 Mir geht dieser "schützt die armen Kinder"-Wahn total auf die Eier. Und ja, ich habe...

Hotohori 23. Mai 2017

Freundlich mit dem Anwalt drohen. Obwohl ich nicht weiß ob so etwas bei so einer riesen...

Hotohori 23. Mai 2017

Naja, ich hatte ein paar Wochen vor 5+ Jahren auch mal einen Account... kenne deinen...

Hotohori 23. Mai 2017

Das Problem ist eben... Richtlinien hin oder her, da sitzen immer noch Menschen die...



Aktuell auf der Startseite von Golem.de
Cybermonday
CPU-Kaufberatung für Spieler

Wir erklären, wann sich ein neuer Prozessor wirklich lohnt und wann man doch lieber warten oder in eine Grafikkarte investieren sollte.
Von Martin Böckmann

Cybermonday: CPU-Kaufberatung für Spieler
Artikel
  1. 400.000 Ladepunkte: Audi startet Ladesäulen-Tarif mit bis zu 0,81 Euro pro kWh
    400.000 Ladepunkte
    Audi startet Ladesäulen-Tarif mit bis zu 0,81 Euro pro kWh

    Am 1. Januar 2023 will Audi seinen Ladedienst Audi Charging starten. Bis zu 0,81 Euro pro kWh werden verlangt.

  2. Netzwerkprotokoll: Was Admins und Entwickler über IPv6 wissen müssen
    Netzwerkprotokoll
    Was Admins und Entwickler über IPv6 wissen müssen

    Sogar für IT-Profis scheint das Netzwerkprotokoll IPv6 oft ein Buch mit sieben Siegeln - und stößt bei ihnen nicht auf bedingungslose Liebe. Wir überprüfen die Vorbehalte in der Praxis und geben Tipps.
    Von Jochen Demmer

  3. Wo Long Fallen Dynasty Vorschau: Souls-like mit Schwertkampf in China
    Wo Long Fallen Dynasty Vorschau
    Souls-like mit Schwertkampf in China

    Das nächste Souls-like heißt Wo Long: Fallen Dynasty und stammt von Team Ninja. Golem.de hat beim Anspielen mehr Gegner erledigt als erwartet.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Cyber Monday bei Media Markt & Saturn • Nur noch heute: Black Friday Woche bei Amazon & NBB • MindStar: Intel Core i7 12700K 359€ • Gigabyte RX 6900 XT 799€ • Xbox Series S 222€ • Gamesplanet Winter Sale - neue Angebote • WD_BLACK SN850 1TB 129€ [Werbung]
    •  /