Abo
  • IT-Karriere:

Perspective: Google hilft, Forentrolle zu erkennen

Webseiten können zukünftig Onlinekommentare auf ihr Troll- und Belästigungspotenzial prüfen. Der neue Service stammt von Google und soll kostenlos sein.

Artikel veröffentlicht am ,
Perspective (Symbolroboter)
Perspective (Symbolroboter) (Bild: Alexander Merz/Golem.de)

Der neue Google-Service Perspective bietet eine API, mit der insbesondere Nachrichtenwebseiten die Kommentare von Lesern auf ihre "Giftigkeit" prüfen können. Google versteht unter giftigen Kommentaren (toxic comments) Nutzerkommentare, welche die Diskussionen stören sollen und andere Nutzer beleidigen oder mobben. Die API liefert für einen übermittelten Kommentar den Punktwert der Giftigkeit. Die Interpretation des Punktwertes und die daraus folgenden Maßnahmen überlässt der Service den Webseitenbetreibern. Geld verlangt Google für die Nutzung von Perspective nicht.

Stellenmarkt
  1. OEDIV KG, Bielefeld
  2. Hays AG, München

In den vergangenen Jahren haben immer mehr Webseiten, insbesondere Nachrichtenseiten, die Kommentarfunktion zeitlich beschränkt, teilweise deaktiviert oder vollständig abgeschaltet. Google will diesem Trend mit seinem Service entgegenwirken und Webseitenbetreiber animieren, wieder mehr Nutzerinhalte zuzulassen.

Maschinen lernen Forentrolle kennen

Die Erkennung setzt auf durch Maschinenlernen erzeugte Modelle, dabei kommt die Tensorflow-Bibliothek zum Einsatz. Zum Lernen und Testen dienten unter anderem Onlinekommentare der New York Times, die von Moderatoren manuell als giftig markiert wurden. Vorerst unterstützt der Service nur Englisch. Weitere Sprachen sollen folgen, wenn genügend Daten durch weitere kooperierende Webseiten zusammengekommen sind. Einen konkreten Zeitplan für zusätzliche Sprachen wollte Google nicht nennen.

Um die Modelle zu verbessern, stellt Google Feedback-Mechanismen bereit. Die Webseitenbetreiber dürfen selbst entscheiden, ob die übermittelten Kommentare von Google für weitere Modellverbesserungen dauerhaft gespeichert werden dürfen oder nicht.

Perspective entstammt dem Technik-Inkubator Jigsaw. Das Unternehmen soll technische Lösungen für globale Probleme finden. Ursprünglich hieß es Google Ideas.



Anzeige
Hardware-Angebote
  1. 119,90€
  2. 169,90€ + Versand

lestard 27. Feb 2017

Schon klar, die haben einige Vorteile aber trotzdem: Die Daten hier sind doch öffentliche...

User_x 24. Feb 2017

...als ob der andere content nicht in Bedeutungslosigkeit versinkt? Ist nen Hobby, sich...

ap (Golem.de) 24. Feb 2017

So schnell lassen wir uns nicht vertreiben. :) *durch meinen Google-Bot geschrieben*

AngryFrog 24. Feb 2017

Das ist doch genau mein Argument. Was der "normale User" unter Troll versteht ist nicht...

chefin 24. Feb 2017

Trollen lässt sich eh nicht an Worten festmachen. Auch nicht an Phrasen. Selbst dein...


Folgen Sie uns
       


TES Blades im Test: Tolles Tamriel trollt
TES Blades im Test
Tolles Tamriel trollt

In jedem The Elder Scrolls verbringe ich viel Zeit in Tamriel, in TES Blades allerdings am Smartphone statt am PC oder an der Konsole. Mich überzeugen Atmosphäre und Kämpfe des Rollenspiels; der Aufbau der Stadt und der Charakter-Fortschritt aber werden geblockt durch kostspielige Trolle.
Ein Test von Marc Sauter

  1. Bethesda TES Blades startet in den Early Access
  2. Bethesda The Elder Scrolls 6 erscheint für nächste Konsolengeneration

Falcon Heavy: Beim zweiten Mal wird alles besser
Falcon Heavy
Beim zweiten Mal wird alles besser

Die größte Rakete der Welt fliegt wieder. Diesmal mit voller Leistung, einem Satelliten und einer gelungenen Landung im Meer. Die Marktbedingungen sind für die Schwerlastrakete Falcon Heavy in nächster Zeit allerdings eher schlecht.
Von Frank Wunderlich-Pfeiffer und dpa

  1. SpaceX Dragon-Raumschiff bei Test explodiert
  2. SpaceX Raketenstufe nach erfolgreicher Landung umgekippt
  3. Raumfahrt SpaceX zündet erstmals das Triebwerk des Starhoppers

Jobporträt: Wenn die Software für den Anwalt kurzen Prozess macht
Jobporträt
Wenn die Software für den Anwalt kurzen Prozess macht

IT-Anwalt Christian Solmecke arbeitet an einer eigenen Jura-Software, die sogar automatisch auf Urheberrechtsabmahnungen antworten kann. Dass er sich damit seiner eigenen Arbeit beraubt, glaubt er nicht. Denn die KI des Programms braucht noch Betreuung.
Von Maja Hoock

  1. Struktrurwandel IT soll jetzt die Kohle nach Cottbus bringen
  2. IT-Jobporträt Spieleprogrammierer "Ich habe mehr Code gelöscht als geschrieben"
  3. Recruiting Wenn die KI passende Mitarbeiter findet

    •  /