• IT-Karriere:
  • Services:

Minerva: Künstliche Intelligenz sperrt toxische Counter Striker

Beleidigungen und sonstige toxische Ausfälle im Chat von Counter Strike Global Offensive werden sofort erkannt: Zusammen mit Google hat das Unternehmen Faceit einen KI-Moderator entwickelt, der schon fleißig problematische Spieler sperrt.

Artikel veröffentlicht am ,
Artwork von Counter Strike Global Offensive
Artwork von Counter Strike Global Offensive (Bild: Valve Corporation)

Im August 2019 hat eine Künstliche Intelligenz im Chat von Counter Strike Global Offensive genau 2.280.769 Nachrichten mit Rassismus, Hass, Beleidigungen und sonstigen toxischen Inhalten erkannt. Im September gab es knapp 20 Prozent weniger solche Botschaften - genau 1.821.734. Ermittelt hat das ein KI-Moderator namens Minerva, dessen erste Version der Hersteller Faceit in seinem Blog vorgestellt hat.

Stellenmarkt
  1. Parador GmbH & Co. KG, Coesfeld
  2. Information und Technik Nordrhein-Westfalen (IT.NRW), Düsseldorf, Münster

Faceit veranstaltet große Counter-Strike-Turniere, Minerva ist nach Angaben des Unternehmens zusammen mit Google Cloud und Jigsaw (früher Google Labs) entstanden. Das System ist Ende August freigeschaltet worden.

Die Entwickler schreiben, dass die Software auf Basis neuronaler Netze zuvor monatelang darauf trainiert worden sei, so wenig falsche Alarmmeldungen wie möglich zu erstellen. Während des Probebetriebs seien rund 200 Millionen Nachrichten untersucht worden, bei denen etwa sieben Millionen toxische Inhalte gefunden wurden.

Wer mit problematischen Nachrichten auffällt, erhält nach Angaben von Faceit eine Verwarnung oder eine Sperre - je nachdem, wie Minerva die Schwere des Vergehens einstuft. Bei Wiederholungstätern soll die Schwere der Strafe innerhalb kurzer Zeit gesteigert werden. Die Anzahl der Spieler, die toxische Nachrichten verschicken, sei um rund 8 Prozent auf rund 228.000 zurückgegangen.

Faceit schreibt, dass zusätzlich zu den KI-Algorithmen ein neues Verfahren zum Aufdecken doppelter Nutzerkonten eingeführt worden sei. Wer im Verdacht stehe, nach einer Sperre einfach mit einem neuen Account an den Turnieren teilnehmen zu wollen, müsse seine Telefonnummer angeben. Von rund 250.000 per SMS abgefragten Personen hätten rund 50.000 nicht geantwortet.

Das Paket aus KI-Moderation und SMS-Abfrage soll weiter verbessert und auf andere Bereiche ausgeweitet werden, in denen Ausfälle zum Alltag gehören - konkreter wird Faceit nicht. Das Unternehmen will Minerva auch anderen Organisatoren von Turnieren zur Verfügung stellen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Top-Angebote
  1. (u. a. Borderlands 3 38,99€, The Outer Worlds 44,99€)

Yash 31. Okt 2019 / Themenstart

Ach es geht mir doch nicht um Selbstachtung oder Wertigkeitsgefühl, das wird durch sowas...

And3rgraund 30. Okt 2019 / Themenstart

Die Bedeutung und der Gesamtzusammenhang wird hier nicht wie ein "Mensch" verstanden...

Tantalus 29. Okt 2019 / Themenstart

Es gibt aber doch noch einen Unterschied, ob Dein Char etwas zu einem anderen Char sagt...

Trockenobst 29. Okt 2019 / Themenstart

Entweder wissen sie das sie sowieso nie gut genug sind, weil sie nicht trainieren wollen...

Trockenobst 29. Okt 2019 / Themenstart

Viele der Typen haben Tools/Skripte, die dich nerven. Da du nicht bereit bist deinen...

Kommentieren


Folgen Sie uns
       


Eigene Deep Fakes mit DeepFaceLab - Tutorial

Wir zeigen im Video, wie man mit DeepFaceLab arbeitet.

Eigene Deep Fakes mit DeepFaceLab - Tutorial Video aufrufen
VW-Logistikplattform Rio: Mehr Fracht transportieren mit weniger Lkw
VW-Logistikplattform Rio
Mehr Fracht transportieren mit weniger Lkw

Im Online-Handel ist das Tracking einer Bestellung längst Realität. In der Speditionsbranche sieht es oft anders aus: Silo-Denken, viele Kleinunternehmen und Vorbehalte gegenüber der Digitalisierung bremsen den Fortschritt. Das möchte Rio mit seiner Cloud-Lösung und niedrigen Preisen ändern.
Ein Bericht von Dirk Kunde

  1. Vernetzte Mobilität Verkehrsunternehmen könnten Datenaustauschpflicht bekommen
  2. Studie Uber und Lyft verschlechtern den Stadtverkehr
  3. Diesel-Ersatz Baden-Württemberg beschafft Akku-Elektrotriebzüge Mireo

Apple-Betriebssysteme: Ein Upgrade mit Schmerzen
Apple-Betriebssysteme
Ein Upgrade mit Schmerzen

Es sollte alles super werden, stattdessen kommen seit MacOS Catalina, dem neuen iOS und iPadOS weder Apple noch Entwickler und Nutzer zur Ruhe. Golem.de hat mit vier Entwicklern über ihre Erfahrungen mit der Systemumstellung gesprochen.
Ein Bericht von Jan Rähm

  1. Betriebssystem Apple veröffentlicht MacOS Catalina
  2. Catalina Apple will Skriptsprachen wie Python aus MacOS entfernen
  3. Apple MacOS wechselt von Bash auf ZSH als Standard-Shell

Weltraumsimulation: Die Star-Citizen-Euphorie ist ansteckend
Weltraumsimulation
Die Star-Citizen-Euphorie ist ansteckend

Jubelnde Massen, ehrliche Entwickler und ein 30 Kilogramm schweres Modell des Javelin-Zerstörers: Die Citizencon 2949 hat gezeigt, wie sehr die Community ihr Star Citizen liebt. Auf der anderen Seite reden Entwickler Klartext, statt Marketing-Floskeln zum Besten zu geben. Das steckt an.
Ein IMHO von Oliver Nickel

  1. Theatres of War angespielt Star Citizen wird zu Battlefield mit Raumschiffen
  2. Star Citizen Mit der Carrack ins neue Sonnensystem
  3. Star Citizen Squadron 42 wird noch einmal verschoben

    •  /