Mods, please: Wie Plattformen versuchen, ihre Nutzer zu bändigen

Online-Plattformen wie Facebook brauchen ihre Nutzer, manche wollen sie aber loswerden, weil sie gegen Regeln verstoßen. Dabei vertrauen die einen auf künstliche Intelligenz, andere verbannen ihre User eher heimlich. Spannende Ansätze kommen ausgerechnet aus der Gaming-Szene.

Artikel von Eike Kühl veröffentlicht am
Moderieren ist eine Kunst, besonders in sozialen Netzwerken.
Moderieren ist eine Kunst, besonders in sozialen Netzwerken. (Bild: Clemens Bilan/Getty Images)

Was haben der Streamer Dr. Disrespect, der Verschwörungstheoretiker Alex Jones und die Sängerin Rihanna gemeinsam? Sie alle wurden schon einmal, zumindest vorübergehend, von Online-Plattformen verbannt: Alex Jones von Youtube wegen rechtsextremer Äußerungen, Rihanna von Instagram, weil sie zu viel nackte Haut zeigte, Dr. Disrespect von Twitch, weil er aus einer öffentlichen Toilette streamte.

Sie alle haben nach Ansicht der Plattformen gegen die Netiquette oder die Nutzungsbedingungen verstoßen und wurden deshalb gemaßregelt, oder wie es offiziell heißt: moderiert. Die Fälle sind denkbar unterschiedlich, doch stehen sie exemplarisch für ein Problem, das sämtliche Online-Dienste, von Facebook bis zum kleinen Nischenforum, täglich beschäftigt. Es geht um die Frage, ob und wie sich die Nutzer bändigen lassen.

"Die Moderation von Inhalten war nie darauf ausgelegt, mit Milliarden von Internetnutzern zu funktionieren", schrieben Jillian C. York und Corynne McSherry von der Electronic Frontier Foundation (EFF) vergangenen April in einem Beitrag. Die gängigen und häufig über Jahre geflickschusterten Mechanismen der Content-Moderation auf großen Social-Media-Plattformen wie Facebook und Twitter seien am Ende. Zudem seien die Richtlinien für verbotene Inhalte verwirrend für die Nutzer, es gebe kaum Transparenz und die Moderation werde zunehmend in Niedriglohnländer ausgelagert. Dort müsse schlecht geschultes Personal stundenlang extremes Material sichten - teils mit gravierenden psychologischen Folgen, wie erst Mitte September ein neuer Bericht des Guardian bestätigte.

Nahezu täglich gibt es Berichte von Hetze und Bedrohungen in sozialen Netzwerken, von versuchten Wahl- und Meinungsmanipulationen, von der Verbreitung von Verschwörungstheorien und Kinderpornografie, von Mobbing und Doxxing. Moderation ist deshalb keine interne Angelegenheit der Anbieter mehr, sondern ein Politikum: Initiativen wie das deutsche Netzwerkdurchsetzungsgesetz (NetzDG) verstärken den Druck auf die Plattformen, die dabei stets abwägen müssen, wo die Meinungsfreiheit aufhört und eine Straftat beginnt. All das für teilweise Hunderte Millionen User, die in unterschiedlichsten Ländern mit unterschiedlichsten Rechtsprechungen sitzen.

Stellenmarkt
  1. Analyst* Hauptbereiche Energie, Finanzen und IT
    ENERTRAG Aktiengesellschaft, Berlin
  2. Team Lead Web Development E-Commerce (m/w/d)
    THOMAS SABO GmbH & Co. KG, Lauf
Detailsuche

Tatsächlich funktioniert Moderation im Moment vor allem so, dass Nutzer einzelne Beiträge melden und diese dann von Moderatoren geprüft werden, die anschließend entscheiden, was passiert. Weil das teils langsam, mühsam und längst nicht immer korrekt ist, arbeiten die Plattformen inzwischen mit verschiedenen Lösungen. Manche übertragen mehr Verantwortung auf die Nutzer, andere vertrauen neuen technischen Entwicklungen und wieder andere versuchen, die Moderation möglichst unauffällig zu halten, so dass man sie als Nutzer gar nicht erst mitbekommt.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
Künstliche Intelligenz - die vermeintliche Lösung für alles 
  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6.  


Aktuell auf der Startseite von Golem.de
Mozilla
Firefox verliert 20 Prozent Nutzer in zweieinhalb Jahren

Die offiziellen Nutzer-Statistiken des Firefox-Browsers sehen für Mozilla nicht gut aus. Immerhin wird der Browser intensiver genutzt.

Mozilla: Firefox verliert 20 Prozent Nutzer in zweieinhalb Jahren
Artikel
  1. Google, Mozilla, Telegram: Youtube schaltet testweise für 7 Euro die Werbung ab
    Google, Mozilla, Telegram
    Youtube schaltet testweise für 7 Euro die Werbung ab

    Sonst noch was? Was am 2. August 2021 neben den großen Meldungen sonst noch passiert ist, in aller Kürze.

  2. Dice: Mietserver für Battlefield 2042 möglicherweise später
    Dice
    Mietserver für Battlefield 2042 möglicherweise später

    Zum Start von Battlefield 2042 wird es keine RSP-Mietserver geben. Dennoch sollen Spieler eigene private Partien eröffnen können.

  3. Astronomie: Flüssiges Wasser auf dem Mars war wieder ein Irrtum
    Astronomie
    Flüssiges Wasser auf dem Mars war wieder ein Irrtum

    Unter der südlichen Polkappe des Mars sollte es flüssiges Wasser geben. Spekulationen über Seen mit Leben waren aber voreilig.

TW1920 30. Okt 2019

Deswegen meinte der Threadersteller ja, dass das halt nur bei neuen Accounts was bringt...

Astorek 29. Okt 2019

Zwischen "Blödeln, Meckern, Kritik und Negatives" und menschenverachtender Hetze besteht...

Handle 29. Okt 2019

Ich habe ein Beispiel von hier: Beim letzten Artikel von Valerie Lux hier auf Golem wurde...

Dwalinn 28. Okt 2019

Bisher gab's bei mir immer ne kleine Erklärung warum man einen Kommentar gelöscht hat...

Salzbretzel 28. Okt 2019

Bei dem Thema Mods denke ich gerne an Früher zurück. Als es Foren und noch keine...



  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • Samsung Galaxy Vorbesteller-Aktion • Speicherwoche bei Media Markt • Samsung Odyssey G5 (34 Zoll, 165 Hz) 399€ • 15% auf Xiaomi-Technik • McAfee Total Protection ab 15,99€ • Saturn: 1 Produkt zahlen, 2 erhalten • Final Fantasy VII HD Remake PS4 25,64€ [Werbung]
    •  /