• IT-Karriere:
  • Services:

Mods, please: Wie Plattformen versuchen, ihre Nutzer zu bändigen

Online-Plattformen wie Facebook brauchen ihre Nutzer, manche wollen sie aber loswerden, weil sie gegen Regeln verstoßen. Dabei vertrauen die einen auf künstliche Intelligenz, andere verbannen ihre User eher heimlich. Spannende Ansätze kommen ausgerechnet aus der Gaming-Szene.

Artikel von Eike Kühl veröffentlicht am
Moderieren ist eine Kunst, besonders in sozialen Netzwerken.
Moderieren ist eine Kunst, besonders in sozialen Netzwerken. (Bild: Clemens Bilan/Getty Images)

Was haben der Streamer Dr. Disrespect, der Verschwörungstheoretiker Alex Jones und die Sängerin Rihanna gemeinsam? Sie alle wurden schon einmal, zumindest vorübergehend, von Online-Plattformen verbannt: Alex Jones von Youtube wegen rechtsextremer Äußerungen, Rihanna von Instagram, weil sie zu viel nackte Haut zeigte, Dr. Disrespect von Twitch, weil er aus einer öffentlichen Toilette streamte.

Sie alle haben nach Ansicht der Plattformen gegen die Netiquette oder die Nutzungsbedingungen verstoßen und wurden deshalb gemaßregelt, oder wie es offiziell heißt: moderiert. Die Fälle sind denkbar unterschiedlich, doch stehen sie exemplarisch für ein Problem, das sämtliche Online-Dienste, von Facebook bis zum kleinen Nischenforum, täglich beschäftigt. Es geht um die Frage, ob und wie sich die Nutzer bändigen lassen.

"Die Moderation von Inhalten war nie darauf ausgelegt, mit Milliarden von Internetnutzern zu funktionieren", schrieben Jillian C. York und Corynne McSherry von der Electronic Frontier Foundation (EFF) vergangenen April in einem Beitrag. Die gängigen und häufig über Jahre geflickschusterten Mechanismen der Content-Moderation auf großen Social-Media-Plattformen wie Facebook und Twitter seien am Ende. Zudem seien die Richtlinien für verbotene Inhalte verwirrend für die Nutzer, es gebe kaum Transparenz und die Moderation werde zunehmend in Niedriglohnländer ausgelagert. Dort müsse schlecht geschultes Personal stundenlang extremes Material sichten - teils mit gravierenden psychologischen Folgen, wie erst Mitte September ein neuer Bericht des Guardian bestätigte.

Nahezu täglich gibt es Berichte von Hetze und Bedrohungen in sozialen Netzwerken, von versuchten Wahl- und Meinungsmanipulationen, von der Verbreitung von Verschwörungstheorien und Kinderpornografie, von Mobbing und Doxxing. Moderation ist deshalb keine interne Angelegenheit der Anbieter mehr, sondern ein Politikum: Initiativen wie das deutsche Netzwerkdurchsetzungsgesetz (NetzDG) verstärken den Druck auf die Plattformen, die dabei stets abwägen müssen, wo die Meinungsfreiheit aufhört und eine Straftat beginnt. All das für teilweise Hunderte Millionen User, die in unterschiedlichsten Ländern mit unterschiedlichsten Rechtsprechungen sitzen.

Stellenmarkt
  1. Autohaus Heisel GmbH, Merzig
  2. Stadtreinigung Hamburg Anstalt des öffentlichen Rechts, Hamburg

Tatsächlich funktioniert Moderation im Moment vor allem so, dass Nutzer einzelne Beiträge melden und diese dann von Moderatoren geprüft werden, die anschließend entscheiden, was passiert. Weil das teils langsam, mühsam und längst nicht immer korrekt ist, arbeiten die Plattformen inzwischen mit verschiedenen Lösungen. Manche übertragen mehr Verantwortung auf die Nutzer, andere vertrauen neuen technischen Entwicklungen und wieder andere versuchen, die Moderation möglichst unauffällig zu halten, so dass man sie als Nutzer gar nicht erst mitbekommt.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • ohne Tracking
  • mit ausgeschaltetem Javascript
Künstliche Intelligenz - die vermeintliche Lösung für alles 
  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6.  


Anzeige
Spiele-Angebote
  1. (-0%) 14,99€
  2. 0,99€
  3. 4,26€

TW1920 30. Okt 2019 / Themenstart

Deswegen meinte der Threadersteller ja, dass das halt nur bei neuen Accounts was bringt...

Astorek 29. Okt 2019 / Themenstart

Zwischen "Blödeln, Meckern, Kritik und Negatives" und menschenverachtender Hetze besteht...

Handle 29. Okt 2019 / Themenstart

Ich habe ein Beispiel von hier: Beim letzten Artikel von Valerie Lux hier auf Golem wurde...

Dwalinn 28. Okt 2019 / Themenstart

Bisher gab's bei mir immer ne kleine Erklärung warum man einen Kommentar gelöscht hat...

Salzbretzel 28. Okt 2019 / Themenstart

Bei dem Thema Mods denke ich gerne an Früher zurück. Als es Foren und noch keine...

Kommentieren


Folgen Sie uns
       


Microsoft Surface Laptop 3 (15 Zoll) - Hands on

Der Surface Laptop 3 ist eine kleine, aber feine Verbesserung zum Vorgänger. Er bekommt ein größeres Trackpad, eine bessere Tastatur und ein größeres 15-Zoll-Display. Es bleiben die wenigen Anschlüsse.

Microsoft Surface Laptop 3 (15 Zoll) - Hands on Video aufrufen
Frauen in der IT: Ist Logik von Natur aus Männersache?
Frauen in der IT
Ist Logik von Natur aus Männersache?

Wenn es um die Frage geht, warum es immer noch so wenig Frauen in der IT gibt, kommt früher oder später das Argument, dass Frauen nicht eben zur Logik veranlagt seien. Kann die niedrige Zahl von Frauen in dieser Branche tatsächlich mit der Biologie erklärt werden?
Von Valerie Lux

  1. IT-Jobs Gibt es den Fachkräftemangel wirklich?
  2. Arbeit im Amt Wichtig ist ein Talent zum Zeittotschlagen
  3. IT-Freelancer Paradiesische Zustände

Amazon Echo Studio im Test: Homepod-Bezwinger begeistert auch als Fire-TV-Lautsprecher
Amazon Echo Studio im Test
Homepod-Bezwinger begeistert auch als Fire-TV-Lautsprecher

Mit dem Echo Studio bringt Amazon seinen teuersten Alexa-Lautsprecher auf den Markt. Dennoch ist er deutlich günstiger als Apples Homepod, liefert aber einen besseren Klang. Und das ist längst nicht alles.
Ein Test von Ingo Pakalski

  1. Amazons Heimkino-Funktion Echo-Lautsprecher drahtlos mit Fire-TV-Geräten verbinden
  2. Echo Flex Amazons preiswertester Alexa-Lautsprecher
  3. Amazons Alexa-Lautsprecher Echo Dot hat ein LED-Display - Echo soll besser klingen

Red Dead Redemption 2 für PC angespielt: Schusswechsel mit Startschwierigkeiten
Red Dead Redemption 2 für PC angespielt
Schusswechsel mit Startschwierigkeiten

Die PC-Version von Red Dead Redemption 2 bietet schönere Grafik als die Konsolenfassung - aber nach der Installation dauert es ganz schön lange bis zum ersten Feuergefecht in den Weiten des Wilden Westens.

  1. Rockstar Games Red Dead Redemption 2 belegt 150 GByte auf PC-Festplatte
  2. Rockstar Games Red Dead Redemption 2 erscheint für Windows-PC und Stadia
  3. Rockstar Games Red Dead Online wird zum Rollenspiel

    •  /