Perspective: Google hilft, Forentrolle zu erkennen

Webseiten können zukünftig Onlinekommentare auf ihr Troll- und Belästigungspotenzial prüfen. Der neue Service stammt von Google und soll kostenlos sein.

Artikel veröffentlicht am ,
Perspective (Symbolroboter)
Perspective (Symbolroboter) (Bild: Alexander Merz/Golem.de)

Der neue Google-Service Perspective bietet eine API, mit der insbesondere Nachrichtenwebseiten die Kommentare von Lesern auf ihre "Giftigkeit" prüfen können. Google versteht unter giftigen Kommentaren (toxic comments) Nutzerkommentare, welche die Diskussionen stören sollen und andere Nutzer beleidigen oder mobben. Die API liefert für einen übermittelten Kommentar den Punktwert der Giftigkeit. Die Interpretation des Punktwertes und die daraus folgenden Maßnahmen überlässt der Service den Webseitenbetreibern. Geld verlangt Google für die Nutzung von Perspective nicht.

In den vergangenen Jahren haben immer mehr Webseiten, insbesondere Nachrichtenseiten, die Kommentarfunktion zeitlich beschränkt, teilweise deaktiviert oder vollständig abgeschaltet. Google will diesem Trend mit seinem Service entgegenwirken und Webseitenbetreiber animieren, wieder mehr Nutzerinhalte zuzulassen.

Maschinen lernen Forentrolle kennen

Die Erkennung setzt auf durch Maschinenlernen erzeugte Modelle, dabei kommt die Tensorflow-Bibliothek zum Einsatz. Zum Lernen und Testen dienten unter anderem Onlinekommentare der New York Times, die von Moderatoren manuell als giftig markiert wurden. Vorerst unterstützt der Service nur Englisch. Weitere Sprachen sollen folgen, wenn genügend Daten durch weitere kooperierende Webseiten zusammengekommen sind. Einen konkreten Zeitplan für zusätzliche Sprachen wollte Google nicht nennen.

Um die Modelle zu verbessern, stellt Google Feedback-Mechanismen bereit. Die Webseitenbetreiber dürfen selbst entscheiden, ob die übermittelten Kommentare von Google für weitere Modellverbesserungen dauerhaft gespeichert werden dürfen oder nicht.

Perspective entstammt dem Technik-Inkubator Jigsaw. Das Unternehmen soll technische Lösungen für globale Probleme finden. Ursprünglich hieß es Google Ideas.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


lestard 27. Feb 2017

Schon klar, die haben einige Vorteile aber trotzdem: Die Daten hier sind doch öffentliche...

User_x 24. Feb 2017

...als ob der andere content nicht in Bedeutungslosigkeit versinkt? Ist nen Hobby, sich...

ap (Golem.de) 24. Feb 2017

So schnell lassen wir uns nicht vertreiben. :) *durch meinen Google-Bot geschrieben*

AngryFrog 24. Feb 2017

Das ist doch genau mein Argument. Was der "normale User" unter Troll versteht ist nicht...



Aktuell auf der Startseite von Golem.de
Galaxy S23 im Hands-on
Viel Leistung und viel Kamera

Samsungs neue Galaxy-S23-Modelle sind sehr leistungsstark und hochwertig. Die 200-Megapixel-Kamera bekommt nur das Ultra-Modell.
Ein Hands-on von Tobias Költzsch

Galaxy S23 im Hands-on: Viel Leistung und viel Kamera
Artikel
  1. Energiespargeräte und Diskokugeln: Bundesnetzagentur zieht 15 Millionen Geräte aus dem Verkehr
    Energiespargeräte und Diskokugeln
    Bundesnetzagentur zieht 15 Millionen Geräte aus dem Verkehr

    Die Bundesnetzagentur hat im vergangenen Jahr zahlreiche Produkte verboten. Darunter sind Energiespargeräte, Fernbedienungen und Diskokugeln.

  2. Western Australia: Eine radioaktive Kapsel - irgendwo im australischen Outback
    Western Australia
    Eine radioaktive Kapsel - irgendwo im australischen Outback

    Wie eine radioaktive Kapsel in Australien verlorengehen konnte, ob sie gefährlich ist, warum sie so schwierig zu finden war und wofür solche Kapseln gut sind.
    Ein Bericht von Werner Pluta

  3. Galaxy Book 3: Samsung stellt die Galaxy-Book-3-Serie vor
    Galaxy Book 3
    Samsung stellt die Galaxy-Book-3-Serie vor

    Neben der Hardware legt Samsung Wert auf die mitgelieferte Software. Damit sollen sich Notebook und Mobilgeräte leichter gemeinsam nutzen lassen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Bis 77% Rabatt auf Fernseher bei Otto • Roccat Kone Pro -56% • Xbox Series S + Dead Space 299,99€ • PCGH Cyber Week • MindStar: ASRock RX 7900 XT 949€ • AMD CPU kaufen, SW Jedi Survivor gratis dazu • Philips LED TV 65" 120 Hz Ambilight 999€ • KF DDR4-3600 32GB 91,89€ [Werbung]
    •  /