• IT-Karriere:
  • Services:

Mods, please: Wie Plattformen versuchen, ihre Nutzer zu bändigen

Online-Plattformen wie Facebook brauchen ihre Nutzer, manche wollen sie aber loswerden, weil sie gegen Regeln verstoßen. Dabei vertrauen die einen auf künstliche Intelligenz, andere verbannen ihre User eher heimlich. Spannende Ansätze kommen ausgerechnet aus der Gaming-Szene.

Artikel von Eike Kühl veröffentlicht am
Moderieren ist eine Kunst, besonders in sozialen Netzwerken.
Moderieren ist eine Kunst, besonders in sozialen Netzwerken. (Bild: Clemens Bilan/Getty Images)

Was haben der Streamer Dr. Disrespect, der Verschwörungstheoretiker Alex Jones und die Sängerin Rihanna gemeinsam? Sie alle wurden schon einmal, zumindest vorübergehend, von Online-Plattformen verbannt: Alex Jones von Youtube wegen rechtsextremer Äußerungen, Rihanna von Instagram, weil sie zu viel nackte Haut zeigte, Dr. Disrespect von Twitch, weil er aus einer öffentlichen Toilette streamte.

Sie alle haben nach Ansicht der Plattformen gegen die Netiquette oder die Nutzungsbedingungen verstoßen und wurden deshalb gemaßregelt, oder wie es offiziell heißt: moderiert. Die Fälle sind denkbar unterschiedlich, doch stehen sie exemplarisch für ein Problem, das sämtliche Online-Dienste, von Facebook bis zum kleinen Nischenforum, täglich beschäftigt. Es geht um die Frage, ob und wie sich die Nutzer bändigen lassen.

"Die Moderation von Inhalten war nie darauf ausgelegt, mit Milliarden von Internetnutzern zu funktionieren", schrieben Jillian C. York und Corynne McSherry von der Electronic Frontier Foundation (EFF) vergangenen April in einem Beitrag. Die gängigen und häufig über Jahre geflickschusterten Mechanismen der Content-Moderation auf großen Social-Media-Plattformen wie Facebook und Twitter seien am Ende. Zudem seien die Richtlinien für verbotene Inhalte verwirrend für die Nutzer, es gebe kaum Transparenz und die Moderation werde zunehmend in Niedriglohnländer ausgelagert. Dort müsse schlecht geschultes Personal stundenlang extremes Material sichten - teils mit gravierenden psychologischen Folgen, wie erst Mitte September ein neuer Bericht des Guardian bestätigte.

Nahezu täglich gibt es Berichte von Hetze und Bedrohungen in sozialen Netzwerken, von versuchten Wahl- und Meinungsmanipulationen, von der Verbreitung von Verschwörungstheorien und Kinderpornografie, von Mobbing und Doxxing. Moderation ist deshalb keine interne Angelegenheit der Anbieter mehr, sondern ein Politikum: Initiativen wie das deutsche Netzwerkdurchsetzungsgesetz (NetzDG) verstärken den Druck auf die Plattformen, die dabei stets abwägen müssen, wo die Meinungsfreiheit aufhört und eine Straftat beginnt. All das für teilweise Hunderte Millionen User, die in unterschiedlichsten Ländern mit unterschiedlichsten Rechtsprechungen sitzen.

Stellenmarkt
  1. wenglorMEL GmbH, Eching bei München
  2. Fachhochschule Südwestfalen, Iserlohn

Tatsächlich funktioniert Moderation im Moment vor allem so, dass Nutzer einzelne Beiträge melden und diese dann von Moderatoren geprüft werden, die anschließend entscheiden, was passiert. Weil das teils langsam, mühsam und längst nicht immer korrekt ist, arbeiten die Plattformen inzwischen mit verschiedenen Lösungen. Manche übertragen mehr Verantwortung auf die Nutzer, andere vertrauen neuen technischen Entwicklungen und wieder andere versuchen, die Moderation möglichst unauffällig zu halten, so dass man sie als Nutzer gar nicht erst mitbekommt.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
Künstliche Intelligenz - die vermeintliche Lösung für alles 
  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6.  


Anzeige
Top-Angebote
  1. ab 589€ Bestpreis auf Geizhals
  2. 349,99€
  3. ab 809€ auf Geizhals

TW1920 30. Okt 2019

Deswegen meinte der Threadersteller ja, dass das halt nur bei neuen Accounts was bringt...

Astorek 29. Okt 2019

Zwischen "Blödeln, Meckern, Kritik und Negatives" und menschenverachtender Hetze besteht...

Handle 29. Okt 2019

Ich habe ein Beispiel von hier: Beim letzten Artikel von Valerie Lux hier auf Golem wurde...

Dwalinn 28. Okt 2019

Bisher gab's bei mir immer ne kleine Erklärung warum man einen Kommentar gelöscht hat...

Salzbretzel 28. Okt 2019

Bei dem Thema Mods denke ich gerne an Früher zurück. Als es Foren und noch keine...


Folgen Sie uns
       


    •  /