Facebook: Dokumente zum Umgang mit Sex- und Gewaltinhalten geleakt

Gezeichnete Nacktheit ist okay, fotografierte nicht: Mit derlei Vorgaben sollen Tausende Moderatoren bei Facebook für eine "saubere" Timeline sorgen. Eine britische Zeitung hat jetzt interne Dokumente zugespielt bekommen.

Artikel veröffentlicht am ,
Nutzerin mit Facebook
Nutzerin mit Facebook (Bild: Chris Jackson/Getty Images)

Jede Woche müssen die Moderatoren von Facebook rund 6,5 Millionen als "Fake" gemeldete Profile kontrollieren: Das ist eine der Zahlen von internen Dokumenten des sozialen Netzwerks, die jetzt vom Guardian veröffentlicht wurden. Die britische Zeitung hat auch Informationen darüber zugespielt bekommen, wie die Moderatoren mit Sex und Gewalt umzugehen haben - und auch, dass es sogar Anweisungen für exotisch anmutende Themen wie Kannibalismus gebe.

Stellenmarkt
  1. IT Manager / Digitalisierungsarchitekt (m/w/d)
    Siedlungswerk GmbH, Stuttgart
  2. Full Stack Java Software Developer (m/w/d)
    NOVENTI Health SE, Lübeck (Home-Office möglich)
Detailsuche

Die geleakten Dokumente machen vor allem eines klar: Es gibt keine klaren Vorgaben. Die Entscheidung, ob etwa ein Foto mit Gewalt gegen Kinder aus Sicht von Facebook ein Problem darstellt, ist für den Moderator alles andere als einfach zu bewältigen. Laut dem Guardian könne es nämlich stehenbleiben, falls die Gewalt kein sadistisches Element enthalte oder nicht gefeiert werde. Facebook habe dies bestätigt und erklärt, dass derartige Bilder mit der Absicht erlaubt würden, dem "Kind zu helfen" - gemeint ist damit wohl, dass Verwandte, Bekannte oder Ermittlungsbehörden alarmiert werden könnten.

Derartige manchmal sicherlich einfachen, oft aber auch komplexen Einschätzungen müssen die Mitarbeiter angesichts der schieren Masse an Kommentaren "oft innerhalb von 10 Sekunden treffen", zitiert der Guardian aus einem der Dokumente.

Beim Sex wird es kompliziert

Besonders komplex seien die internen Anweisungen von Facebook beim Thema Sex. Der Guardian zeigt das vor allem anhand von Revenge Porn - damit ist etwa gemeint, dass Intimfotos durch einen betrogenen oder verlassenen Partner ins Netz gestellt werden.

Golem Akademie
  1. CEH Certified Ethical Hacker v11: virtueller Fünf-Tage-Workshop
    10.–14. Januar 2022, Virtuell
  2. Linux-Shellprogrammierung: virtueller Vier-Tage-Workshop
    8.–11. März 2021, Virtuell
Weitere IT-Trainings

Bei Facebook ist das dann ein Problem, wenn das Foto erkennbar im privaten Umfeld aufgenommen wurde, wenn der oder die Gezeigte zumindest ansatzweise nackt sei und durch den Kontext klar werde, dass die Aufnahme ohne Zustimmung aller Beteiligten veröffentlicht wurde.

Etwas einfacher ist die Lage derzeit bei allen gewöhnlichen Nacktbildern: Wenn es sich um Zeichnungen handelt, sollen sie veröffentlicht werden können - Fotos hingegen nicht.

Facebook hat dem Guardian gesagt, dass generell bestimmte Bilder von Softwarealgorithmen herausgefiltert würden. Aber beispielsweise bei Aufnahmen im Zusammenhang mit Terrorakten sei das Unternehmen nicht zu restriktiv, um Diskussionen über wichtige Vorgänge nicht abzuwürgen.

Facebook hat derzeit rund 1,94 Milliarden Mitglieder. Kürzlich hatte das Unternehmen bekanntgegeben, dass es zurzeit etwa 4.500 Mitarbeiter beschäftigt, die als Moderatoren problematische Inhalte kontrollieren und gegebenenfalls löschen und dass weltweit rund 3.000 weitere Aufpasser hinzukommen sollen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


lottikarotti 01. Jun 2017

+1 Mir geht dieser "schützt die armen Kinder"-Wahn total auf die Eier. Und ja, ich habe...

Hotohori 23. Mai 2017

Freundlich mit dem Anwalt drohen. Obwohl ich nicht weiß ob so etwas bei so einer riesen...

Hotohori 23. Mai 2017

Naja, ich hatte ein paar Wochen vor 5+ Jahren auch mal einen Account... kenne deinen...

Hotohori 23. Mai 2017

Das Problem ist eben... Richtlinien hin oder her, da sitzen immer noch Menschen die...



Aktuell auf der Startseite von Golem.de
Wemax Go Pro
Mini-Projektor für Reisen strahlt 120-Zoll-Bild an die Wand

Der Wemax Go Pro setzt auf Lasertechnik von Xiaomi. Der Beamer ist klein und kompakt, soll aber ein großes Bild an die Wand strahlen können.

Wemax Go Pro: Mini-Projektor für Reisen strahlt 120-Zoll-Bild an die Wand
Artikel
  1. Snapdragon 8cx Gen 3: Geleaktes Qualcomm-SoC erreicht das Niveau von AMD und Intel
    Snapdragon 8cx Gen 3
    Geleaktes Qualcomm-SoC erreicht das Niveau von AMD und Intel

    In Geekbench wurde der Qualcomm Snapdragon 8cx Gen 3 gesichtet. Er kann sich mit Intel- und AMD-CPUs messen, mit Apples M1 aber wohl nicht.

  2. Air4: Renault 4 als Flugauto neu interpretiert
    Air4
    Renault 4 als Flugauto neu interpretiert

    Der Air4 ist Renaults Idee, wie ein fliegender Renault 4 aussehen könnte. Mit der Drohne wird das 60jährige Jubiläum des Kultautos gefeiert.

  3. MS Satoshi: Die abstruse Geschichte des Bitcoin-Kreuzfahrtschiffs
    MS Satoshi
    Die abstruse Geschichte des Bitcoin-Kreuzfahrtschiffs

    Kryptogeld-Enthusiasten kauften ein Kreuzfahrtschiff und wollten es zum schwimmenden Freiheitsparadies machen. Allerdings scheiterten sie an jeder einzelnen Stelle.
    Von Elke Wittich

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Black Friday Wochenende • LG UltraGear 34GP950G-B 999€ • SanDisk Ultra 3D 500 GB M.2 44€ • Boxsets (u. a. Game of Thrones Blu-ray 79,97€) • Samsung Galaxy S21 128GB 777€ • Premium-Laptops (u. a. Lenovo Ideapad 5 Pro 16" 829€) • MS Surface Pro7+ 888€ • Astro Gaming Headsets [Werbung]
    •  /