Minerva: Künstliche Intelligenz sperrt toxische Counter Striker

Beleidigungen und sonstige toxische Ausfälle im Chat von Counter Strike Global Offensive werden sofort erkannt: Zusammen mit Google hat das Unternehmen Faceit einen KI-Moderator entwickelt, der schon fleißig problematische Spieler sperrt.

Artikel veröffentlicht am ,
Artwork von Counter Strike Global Offensive
Artwork von Counter Strike Global Offensive (Bild: Valve Corporation)

Im August 2019 hat eine Künstliche Intelligenz im Chat von Counter Strike Global Offensive genau 2.280.769 Nachrichten mit Rassismus, Hass, Beleidigungen und sonstigen toxischen Inhalten erkannt. Im September gab es knapp 20 Prozent weniger solche Botschaften - genau 1.821.734. Ermittelt hat das ein KI-Moderator namens Minerva, dessen erste Version der Hersteller Faceit in seinem Blog vorgestellt hat.

Stellenmarkt
  1. Softwareentwickler (m/w/d) Robotik
    J. Schmalz GmbH, Glatten
  2. Projektmanager Stammdaten Management (m/w/d)
    Melitta Gruppe, Minden
Detailsuche

Faceit veranstaltet große Counter-Strike-Turniere, Minerva ist nach Angaben des Unternehmens zusammen mit Google Cloud und Jigsaw (früher Google Labs) entstanden. Das System ist Ende August freigeschaltet worden.

Die Entwickler schreiben, dass die Software auf Basis neuronaler Netze zuvor monatelang darauf trainiert worden sei, so wenig falsche Alarmmeldungen wie möglich zu erstellen. Während des Probebetriebs seien rund 200 Millionen Nachrichten untersucht worden, bei denen etwa sieben Millionen toxische Inhalte gefunden wurden.

Wer mit problematischen Nachrichten auffällt, erhält nach Angaben von Faceit eine Verwarnung oder eine Sperre - je nachdem, wie Minerva die Schwere des Vergehens einstuft. Bei Wiederholungstätern soll die Schwere der Strafe innerhalb kurzer Zeit gesteigert werden. Die Anzahl der Spieler, die toxische Nachrichten verschicken, sei um rund 8 Prozent auf rund 228.000 zurückgegangen.

Golem Akademie
  1. Elastic Stack Fundamentals – Elasticsearch, Logstash, Kibana, Beats: virtueller Drei-Tage-Workshop
    15.–17. März 2022, Virtuell
  2. Apache Kafka Grundlagen: virtueller Zwei-Tage-Workshop
    21.–22. März 2022, Virtuell
Weitere IT-Trainings

Faceit schreibt, dass zusätzlich zu den KI-Algorithmen ein neues Verfahren zum Aufdecken doppelter Nutzerkonten eingeführt worden sei. Wer im Verdacht stehe, nach einer Sperre einfach mit einem neuen Account an den Turnieren teilnehmen zu wollen, müsse seine Telefonnummer angeben. Von rund 250.000 per SMS abgefragten Personen hätten rund 50.000 nicht geantwortet.

Das Paket aus KI-Moderation und SMS-Abfrage soll weiter verbessert und auf andere Bereiche ausgeweitet werden, in denen Ausfälle zum Alltag gehören - konkreter wird Faceit nicht. Das Unternehmen will Minerva auch anderen Organisatoren von Turnieren zur Verfügung stellen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Yash 31. Okt 2019

Ach es geht mir doch nicht um Selbstachtung oder Wertigkeitsgefühl, das wird durch sowas...

And3rgraund 30. Okt 2019

Die Bedeutung und der Gesamtzusammenhang wird hier nicht wie ein "Mensch" verstanden...

Tantalus 29. Okt 2019

Es gibt aber doch noch einen Unterschied, ob Dein Char etwas zu einem anderen Char sagt...

Trockenobst 29. Okt 2019

Entweder wissen sie das sie sowieso nie gut genug sind, weil sie nicht trainieren wollen...

Trockenobst 29. Okt 2019

Viele der Typen haben Tools/Skripte, die dich nerven. Da du nicht bereit bist deinen...



Aktuell auf der Startseite von Golem.de
Corona-Warn-App
Hohe Kosten, halbherzige Umsetzung

Die digitalen Tools zur Pandemiebekämpfung wie die Corona-Warn-App sind nicht billig. Gerade deshalb sollten sie sinnvoll und effektiv genutzt werden.
Ein IMHO von Friedhelm Greis

Corona-Warn-App: Hohe Kosten, halbherzige Umsetzung
Artikel
  1. Probefahrt mit BMW-Roller CE 04: Beam me up, BMW
    Probefahrt mit BMW-Roller CE 04
    Beam me up, BMW

    Mit futuristischem Design und elektrischem Antrieb hat BMW ein völlig neues Fahrzeug für den urbanen Bereich entwickelt.
    Ein Bericht von Peter Ilg

  2. Pluton in Windows 11: Lenovo will Microsofts Sicherheitschip nicht aktivieren
    Pluton in Windows 11
    Lenovo will Microsofts Sicherheitschip nicht aktivieren

    Die neuen Windows-11-Laptops kommen mit dem Chip Pluton. Lenovo will diesen aber noch nicht selbst aktivieren.

  3. Shopping: Google legt Einspruch gegen 2,42-Milliarden-Strafe ein
    Shopping
    Google legt Einspruch gegen 2,42-Milliarden-Strafe ein

    Nun muss der EuGH entscheiden, ob Google mit der Anzeige seiner Shopping-Angebote in der Suche seine Marktmacht missbraucht.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • RTX 3070 989€ • The A500 Mini Retro-Konsole mit 25 Amiga-Spielen vorbestellbar 189,90€ • RX 6800 16GB 1.129€ • Intel Core i9 3.7 459,50€ Ghz • WD Black 1TB inkl. Kühlkörper PS5-kompatibel 189,99€ • Switch: 3 für 2 Aktion • RX 6700 12GB 869€ • MindStar (u.a. 1TB SSD 69€) [Werbung]
    •  /