Perspective: Google hilft, Forentrolle zu erkennen

Webseiten können zukünftig Onlinekommentare auf ihr Troll- und Belästigungspotenzial prüfen. Der neue Service stammt von Google und soll kostenlos sein.

Artikel veröffentlicht am ,
Perspective (Symbolroboter)
Perspective (Symbolroboter) (Bild: Alexander Merz/Golem.de)

Der neue Google-Service Perspective bietet eine API, mit der insbesondere Nachrichtenwebseiten die Kommentare von Lesern auf ihre "Giftigkeit" prüfen können. Google versteht unter giftigen Kommentaren (toxic comments) Nutzerkommentare, welche die Diskussionen stören sollen und andere Nutzer beleidigen oder mobben. Die API liefert für einen übermittelten Kommentar den Punktwert der Giftigkeit. Die Interpretation des Punktwertes und die daraus folgenden Maßnahmen überlässt der Service den Webseitenbetreibern. Geld verlangt Google für die Nutzung von Perspective nicht.

Stellenmarkt
  1. Fullstack-PHP-Entwickler (m/w/d)
    SHD System-Haus-Dresden GmbH, Dresden
  2. Client-Administratoren (m/w/d)
    Flughafen Köln/Bonn GmbH, Köln
Detailsuche

In den vergangenen Jahren haben immer mehr Webseiten, insbesondere Nachrichtenseiten, die Kommentarfunktion zeitlich beschränkt, teilweise deaktiviert oder vollständig abgeschaltet. Google will diesem Trend mit seinem Service entgegenwirken und Webseitenbetreiber animieren, wieder mehr Nutzerinhalte zuzulassen.

Maschinen lernen Forentrolle kennen

Die Erkennung setzt auf durch Maschinenlernen erzeugte Modelle, dabei kommt die Tensorflow-Bibliothek zum Einsatz. Zum Lernen und Testen dienten unter anderem Onlinekommentare der New York Times, die von Moderatoren manuell als giftig markiert wurden. Vorerst unterstützt der Service nur Englisch. Weitere Sprachen sollen folgen, wenn genügend Daten durch weitere kooperierende Webseiten zusammengekommen sind. Einen konkreten Zeitplan für zusätzliche Sprachen wollte Google nicht nennen.

Um die Modelle zu verbessern, stellt Google Feedback-Mechanismen bereit. Die Webseitenbetreiber dürfen selbst entscheiden, ob die übermittelten Kommentare von Google für weitere Modellverbesserungen dauerhaft gespeichert werden dürfen oder nicht.

Golem Akademie
  1. Data Engineering mit Apache Spark: virtueller Zwei-Tage-Workshop
    25.–26. April 2022, Virtuell
  2. Netzwerktechnik Kompaktkurs: virtueller Fünf-Tage-Workshop
    14.–18. Februar 2022, virtuell
Weitere IT-Trainings

Perspective entstammt dem Technik-Inkubator Jigsaw. Das Unternehmen soll technische Lösungen für globale Probleme finden. Ursprünglich hieß es Google Ideas.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


lestard 27. Feb 2017

Schon klar, die haben einige Vorteile aber trotzdem: Die Daten hier sind doch öffentliche...

User_x 24. Feb 2017

...als ob der andere content nicht in Bedeutungslosigkeit versinkt? Ist nen Hobby, sich...

ap (Golem.de) 24. Feb 2017

So schnell lassen wir uns nicht vertreiben. :) *durch meinen Google-Bot geschrieben*

AngryFrog 24. Feb 2017

Das ist doch genau mein Argument. Was der "normale User" unter Troll versteht ist nicht...

chefin 24. Feb 2017

Trollen lässt sich eh nicht an Worten festmachen. Auch nicht an Phrasen. Selbst dein...



Aktuell auf der Startseite von Golem.de
Lego Star Wars UCS AT-AT aufgebaut
"Das ist kein Mond, das ist ein Lego-Modell"

Ganz wie der Imperator es wünscht: Der Lego UCS AT-AT ist riesig und imposant - und eines der besten Star-Wars-Modelle aus Klemmbausteinen.
Ein Praxistest von Oliver Nickel

Lego Star Wars UCS AT-AT aufgebaut: Das ist kein Mond, das ist ein Lego-Modell
Artikel
  1. Kryptowährung im Fall: Bitcoin legt rasante Talfahrt hin
    Kryptowährung im Fall
    Bitcoin legt rasante Talfahrt hin

    Am Samstag setzte sich der Absturz des Bitcoin fort. Ein Bitcoin ist nur noch 34.200 US-Dollar wert. Auch andere Kryptowährungen machen Verluste.

  2. eStream: Airstream-Wohnwagen mit eigenem Elektroantrieb
    eStream
    Airstream-Wohnwagen mit eigenem Elektroantrieb

    Der Wohnwagen Airstream eStream besitzt einen eigenen Elektroantrieb nebst Akku. Das entlastet das Zugfahrzeug und eröffnet weitere Möglichkeiten.

  3. Andromeda: Dieses Microsoft-Smartphone-Betriebssystem erschien nie
    Andromeda
    Dieses Microsoft-Smartphone-Betriebssystem erschien nie

    Erstmals ist ein Blick auf Andromeda möglich - das Smartphone-Betriebssystem, das Microsoft bereits vor einigen Jahren eingestellt hat.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Corsair Vengeance RGB RT 16-GB-Kit DDR4-4000 120,95€ • Alternate (u.a. AKRacing Master Pro Deluxe 449,98€) • Seagate FireCuda 530 1 TB (PS5) 189,90€ • RTX 3070 989€ • The A500 Mini 189,90€ • Intel Core i9 3.7 459,50€ • RX 6700 12GB 869€ • MindStar (u.a. 1TB SSD 69€) [Werbung]
    •  /