• IT-Karriere:
  • Services:

Mods, please: Wie Plattformen versuchen, ihre Nutzer zu bändigen

Online-Plattformen wie Facebook brauchen ihre Nutzer, manche wollen sie aber loswerden, weil sie gegen Regeln verstoßen. Dabei vertrauen die einen auf künstliche Intelligenz, andere verbannen ihre User eher heimlich. Spannende Ansätze kommen ausgerechnet aus der Gaming-Szene.

Artikel von Eike Kühl veröffentlicht am
Moderieren ist eine Kunst, besonders in sozialen Netzwerken.
Moderieren ist eine Kunst, besonders in sozialen Netzwerken. (Bild: Clemens Bilan/Getty Images)

Was haben der Streamer Dr. Disrespect, der Verschwörungstheoretiker Alex Jones und die Sängerin Rihanna gemeinsam? Sie alle wurden schon einmal, zumindest vorübergehend, von Online-Plattformen verbannt: Alex Jones von Youtube wegen rechtsextremer Äußerungen, Rihanna von Instagram, weil sie zu viel nackte Haut zeigte, Dr. Disrespect von Twitch, weil er aus einer öffentlichen Toilette streamte.

Sie alle haben nach Ansicht der Plattformen gegen die Netiquette oder die Nutzungsbedingungen verstoßen und wurden deshalb gemaßregelt, oder wie es offiziell heißt: moderiert. Die Fälle sind denkbar unterschiedlich, doch stehen sie exemplarisch für ein Problem, das sämtliche Online-Dienste, von Facebook bis zum kleinen Nischenforum, täglich beschäftigt. Es geht um die Frage, ob und wie sich die Nutzer bändigen lassen.

"Die Moderation von Inhalten war nie darauf ausgelegt, mit Milliarden von Internetnutzern zu funktionieren", schrieben Jillian C. York und Corynne McSherry von der Electronic Frontier Foundation (EFF) vergangenen April in einem Beitrag. Die gängigen und häufig über Jahre geflickschusterten Mechanismen der Content-Moderation auf großen Social-Media-Plattformen wie Facebook und Twitter seien am Ende. Zudem seien die Richtlinien für verbotene Inhalte verwirrend für die Nutzer, es gebe kaum Transparenz und die Moderation werde zunehmend in Niedriglohnländer ausgelagert. Dort müsse schlecht geschultes Personal stundenlang extremes Material sichten - teils mit gravierenden psychologischen Folgen, wie erst Mitte September ein neuer Bericht des Guardian bestätigte.

Nahezu täglich gibt es Berichte von Hetze und Bedrohungen in sozialen Netzwerken, von versuchten Wahl- und Meinungsmanipulationen, von der Verbreitung von Verschwörungstheorien und Kinderpornografie, von Mobbing und Doxxing. Moderation ist deshalb keine interne Angelegenheit der Anbieter mehr, sondern ein Politikum: Initiativen wie das deutsche Netzwerkdurchsetzungsgesetz (NetzDG) verstärken den Druck auf die Plattformen, die dabei stets abwägen müssen, wo die Meinungsfreiheit aufhört und eine Straftat beginnt. All das für teilweise Hunderte Millionen User, die in unterschiedlichsten Ländern mit unterschiedlichsten Rechtsprechungen sitzen.

Stellenmarkt
  1. HUK-COBURG Versicherungsgruppe, Coburg
  2. Deutsche Rentenversicherung Bund, Berlin

Tatsächlich funktioniert Moderation im Moment vor allem so, dass Nutzer einzelne Beiträge melden und diese dann von Moderatoren geprüft werden, die anschließend entscheiden, was passiert. Weil das teils langsam, mühsam und längst nicht immer korrekt ist, arbeiten die Plattformen inzwischen mit verschiedenen Lösungen. Manche übertragen mehr Verantwortung auf die Nutzer, andere vertrauen neuen technischen Entwicklungen und wieder andere versuchen, die Moderation möglichst unauffällig zu halten, so dass man sie als Nutzer gar nicht erst mitbekommt.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
Künstliche Intelligenz - die vermeintliche Lösung für alles 
  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6.  


Anzeige
Hardware-Angebote
  1. (reduzierte Überstände, Restposten & Co.)

TW1920 30. Okt 2019

Deswegen meinte der Threadersteller ja, dass das halt nur bei neuen Accounts was bringt...

Astorek 29. Okt 2019

Zwischen "Blödeln, Meckern, Kritik und Negatives" und menschenverachtender Hetze besteht...

Handle 29. Okt 2019

Ich habe ein Beispiel von hier: Beim letzten Artikel von Valerie Lux hier auf Golem wurde...

Dwalinn 28. Okt 2019

Bisher gab's bei mir immer ne kleine Erklärung warum man einen Kommentar gelöscht hat...

Salzbretzel 28. Okt 2019

Bei dem Thema Mods denke ich gerne an Früher zurück. Als es Foren und noch keine...


Folgen Sie uns
       


Asus Expertbook B9 - Hands on (CES 2020)

Das Expertbook B9 von Asus ist ein sehr leichtes, leistungsfähiges Business-Notebook. Im ersten Kurztest macht das Gerät einen guten Eindruck.

Asus Expertbook B9 - Hands on (CES 2020) Video aufrufen
Ryzen Mobile 4000 (Renoir): Lasst die Ära der schrottigen AMD-Notebooks enden!
Ryzen Mobile 4000 (Renoir)
Lasst die Ära der schrottigen AMD-Notebooks enden!

Seit vielen Jahren gibt es kaum Premium-Geräte mit AMD-Chips und selbst bei vermeintlich identischer Ausstattung fehlen Eigenschaften wie eine beleuchtete Tastatur oder Thunderbolt 3. Schluss damit!
Ein IMHO von Marc Sauter

  1. HEDT-Prozessor 64-kerniger Threadripper schlägt 20.000-Dollar-Xeons
  2. Ryzen Mobile 4000 AMDs Renoir hat acht 7-nm-Kerne für Ultrabooks
  3. Zen+ AMD verkauft Ryzen 5 1600 mit flotteren CPU-Kernen

Mr. Robot rezensiert: Domo Arigato, Mr. Robot!
Mr. Robot rezensiert
Domo Arigato, Mr. Robot!

Wie im Achtziger-Klassiker Mr. Roboto von Styx hat auch Elliot in Mr. Robot Geheimnisse. Die Dramaserie um den Hacker ist nicht nur wegen Rami Malek grandios. Sie hat einen ganz eigenen beeindruckenden visuellen Stil und zeigt Hacking, wie es wirklich ist. Wir blicken nach dem Serienfinale zurück.
Eine Rezension von Oliver Nickel und Moritz Tremmel

  1. Openideo-Wettbewerb Die fünf besten Hacker-Symbolbilder sind ausgewählt
  2. Cyberangriffe Attribution ist wie ein Indizienprozess
  3. Double Dragon APT41 soll für Staat und eigenen Geldbeutel hacken

Kailh-Box-Switches im Test: Besser und lauter geht ein klickender Switch kaum
Kailh-Box-Switches im Test
Besser und lauter geht ein klickender Switch kaum

Wer klickende Tastatur-Switches mag, wird die dunkelblauen Kailh-Box-Schalter lieben: Eine eingebaute Stahlfeder sorgt für zwei satte Klicks pro Anschlag. Im Test merken unsere Finger aber schnell den hohen taktilen Widerstand.
Ein Test von Tobias Költzsch

  1. Keychron K6 Kompakte drahtlose Tastatur mit austauschbaren Switches
  2. Charachorder Schneller tippen als die Tastatur erlaubt
  3. Brydge+ iPad-Tastatur mit Multi-Touch-Trackpad

    •  /