• IT-Karriere:
  • Services:

Perspective: Google hilft, Forentrolle zu erkennen

Webseiten können zukünftig Onlinekommentare auf ihr Troll- und Belästigungspotenzial prüfen. Der neue Service stammt von Google und soll kostenlos sein.

Artikel veröffentlicht am ,
Perspective (Symbolroboter)
Perspective (Symbolroboter) (Bild: Alexander Merz/Golem.de)

Der neue Google-Service Perspective bietet eine API, mit der insbesondere Nachrichtenwebseiten die Kommentare von Lesern auf ihre "Giftigkeit" prüfen können. Google versteht unter giftigen Kommentaren (toxic comments) Nutzerkommentare, welche die Diskussionen stören sollen und andere Nutzer beleidigen oder mobben. Die API liefert für einen übermittelten Kommentar den Punktwert der Giftigkeit. Die Interpretation des Punktwertes und die daraus folgenden Maßnahmen überlässt der Service den Webseitenbetreibern. Geld verlangt Google für die Nutzung von Perspective nicht.

Stellenmarkt
  1. PDR-Team GmbH, Schwäbisch Gmünd
  2. EDAG Engineering GmbH, Mönsheim

In den vergangenen Jahren haben immer mehr Webseiten, insbesondere Nachrichtenseiten, die Kommentarfunktion zeitlich beschränkt, teilweise deaktiviert oder vollständig abgeschaltet. Google will diesem Trend mit seinem Service entgegenwirken und Webseitenbetreiber animieren, wieder mehr Nutzerinhalte zuzulassen.

Maschinen lernen Forentrolle kennen

Die Erkennung setzt auf durch Maschinenlernen erzeugte Modelle, dabei kommt die Tensorflow-Bibliothek zum Einsatz. Zum Lernen und Testen dienten unter anderem Onlinekommentare der New York Times, die von Moderatoren manuell als giftig markiert wurden. Vorerst unterstützt der Service nur Englisch. Weitere Sprachen sollen folgen, wenn genügend Daten durch weitere kooperierende Webseiten zusammengekommen sind. Einen konkreten Zeitplan für zusätzliche Sprachen wollte Google nicht nennen.

Um die Modelle zu verbessern, stellt Google Feedback-Mechanismen bereit. Die Webseitenbetreiber dürfen selbst entscheiden, ob die übermittelten Kommentare von Google für weitere Modellverbesserungen dauerhaft gespeichert werden dürfen oder nicht.

Perspective entstammt dem Technik-Inkubator Jigsaw. Das Unternehmen soll technische Lösungen für globale Probleme finden. Ursprünglich hieß es Google Ideas.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Spiele-Angebote
  1. 4,99€
  2. 4,32€
  3. 52,99€
  4. 11,99€

lestard 27. Feb 2017

Schon klar, die haben einige Vorteile aber trotzdem: Die Daten hier sind doch öffentliche...

User_x 24. Feb 2017

...als ob der andere content nicht in Bedeutungslosigkeit versinkt? Ist nen Hobby, sich...

ap (Golem.de) 24. Feb 2017

So schnell lassen wir uns nicht vertreiben. :) *durch meinen Google-Bot geschrieben*

AngryFrog 24. Feb 2017

Das ist doch genau mein Argument. Was der "normale User" unter Troll versteht ist nicht...

chefin 24. Feb 2017

Trollen lässt sich eh nicht an Worten festmachen. Auch nicht an Phrasen. Selbst dein...


Folgen Sie uns
       


Datenbasierte Archäologie im DAI

Idai World ist ein System, um archäologische Daten aufzubereiten und online zugänglich zu machen. Benjamin Ducke vom Deutschen Archäologischen Institut stellt es vor.

Datenbasierte Archäologie im DAI Video aufrufen
Sendmail: Software aus der digitalen Steinzeit
Sendmail
Software aus der digitalen Steinzeit

Ein nichtöffentliches CVS-Repository, FTP-Downloads, defekte Links, Diskussionen übers Usenet: Der Mailserver Sendmail zeigt alle Anzeichen eines problematischen und in der Vergangenheit stehengebliebenen Softwareprojekts.
Eine Analyse von Hanno Böck

  1. Überwachung Tutanota musste E-Mails vor der Verschlüsselung ausleiten
  2. Buffer Overflow Exim-Sicherheitslücke beim Verarbeiten von TLS-Namen
  3. Sicherheitslücke Buffer Overflow in Dovecot-Mailserver

Galaxy Fold im Test: Falt-Smartphone mit falschem Format
Galaxy Fold im Test
Falt-Smartphone mit falschem Format

Samsung hat bei seinem faltbaren Smartphone nicht nur mit der Technik, sondern auch mit einem misslungenen Marktstart auf sich aufmerksam gemacht. Die zweite Version ist deutlich besser geglückt und aufregend in ihrer Neuartigkeit. Nur: Wozu braucht man das Gerät?
Ein Test von Tobias Költzsch

  1. Faltbares Smartphone Samsung verkauft eine Million Galaxy Fold
  2. Samsung Galaxy Fold übersteht weniger Faltvorgänge als behauptet

Apple-Betriebssysteme: Ein Upgrade mit Schmerzen
Apple-Betriebssysteme
Ein Upgrade mit Schmerzen

Es sollte alles super werden, stattdessen kommen seit MacOS Catalina, dem neuen iOS und iPadOS weder Apple noch Entwickler und Nutzer zur Ruhe. Golem.de hat mit vier Entwicklern über ihre Erfahrungen mit der Systemumstellung gesprochen.
Ein Bericht von Jan Rähm

  1. Betriebssystem Apple veröffentlicht MacOS Catalina
  2. Catalina Apple will Skriptsprachen wie Python aus MacOS entfernen
  3. Apple MacOS wechselt von Bash auf ZSH als Standard-Shell

    •  /