• IT-Karriere:
  • Services:

Minerva: Künstliche Intelligenz sperrt toxische Counter Striker

Beleidigungen und sonstige toxische Ausfälle im Chat von Counter Strike Global Offensive werden sofort erkannt: Zusammen mit Google hat das Unternehmen Faceit einen KI-Moderator entwickelt, der schon fleißig problematische Spieler sperrt.

Artikel veröffentlicht am ,
Artwork von Counter Strike Global Offensive
Artwork von Counter Strike Global Offensive (Bild: Valve Corporation)

Im August 2019 hat eine Künstliche Intelligenz im Chat von Counter Strike Global Offensive genau 2.280.769 Nachrichten mit Rassismus, Hass, Beleidigungen und sonstigen toxischen Inhalten erkannt. Im September gab es knapp 20 Prozent weniger solche Botschaften - genau 1.821.734. Ermittelt hat das ein KI-Moderator namens Minerva, dessen erste Version der Hersteller Faceit in seinem Blog vorgestellt hat.

Stellenmarkt
  1. Schwarz Dienstleistung KG, Raum Neckarsulm
  2. STAHLGRUBER GmbH, Poing bei München

Faceit veranstaltet große Counter-Strike-Turniere, Minerva ist nach Angaben des Unternehmens zusammen mit Google Cloud und Jigsaw (früher Google Labs) entstanden. Das System ist Ende August freigeschaltet worden.

Die Entwickler schreiben, dass die Software auf Basis neuronaler Netze zuvor monatelang darauf trainiert worden sei, so wenig falsche Alarmmeldungen wie möglich zu erstellen. Während des Probebetriebs seien rund 200 Millionen Nachrichten untersucht worden, bei denen etwa sieben Millionen toxische Inhalte gefunden wurden.

Wer mit problematischen Nachrichten auffällt, erhält nach Angaben von Faceit eine Verwarnung oder eine Sperre - je nachdem, wie Minerva die Schwere des Vergehens einstuft. Bei Wiederholungstätern soll die Schwere der Strafe innerhalb kurzer Zeit gesteigert werden. Die Anzahl der Spieler, die toxische Nachrichten verschicken, sei um rund 8 Prozent auf rund 228.000 zurückgegangen.

Faceit schreibt, dass zusätzlich zu den KI-Algorithmen ein neues Verfahren zum Aufdecken doppelter Nutzerkonten eingeführt worden sei. Wer im Verdacht stehe, nach einer Sperre einfach mit einem neuen Account an den Turnieren teilnehmen zu wollen, müsse seine Telefonnummer angeben. Von rund 250.000 per SMS abgefragten Personen hätten rund 50.000 nicht geantwortet.

Das Paket aus KI-Moderation und SMS-Abfrage soll weiter verbessert und auf andere Bereiche ausgeweitet werden, in denen Ausfälle zum Alltag gehören - konkreter wird Faceit nicht. Das Unternehmen will Minerva auch anderen Organisatoren von Turnieren zur Verfügung stellen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Spiele-Angebote
  1. 37,99€
  2. (-10%) 8,99€
  3. (-10%) 17,99€

Yash 31. Okt 2019

Ach es geht mir doch nicht um Selbstachtung oder Wertigkeitsgefühl, das wird durch sowas...

And3rgraund 30. Okt 2019

Die Bedeutung und der Gesamtzusammenhang wird hier nicht wie ein "Mensch" verstanden...

Tantalus 29. Okt 2019

Es gibt aber doch noch einen Unterschied, ob Dein Char etwas zu einem anderen Char sagt...

Trockenobst 29. Okt 2019

Entweder wissen sie das sie sowieso nie gut genug sind, weil sie nicht trainieren wollen...

Trockenobst 29. Okt 2019

Viele der Typen haben Tools/Skripte, die dich nerven. Da du nicht bereit bist deinen...


Folgen Sie uns
       


Silent Hill (1999) - Golem retro_

Wir haben einen Ausflug ins beschauliche Silent Hill gemacht - und ins Jahr 1999.

Silent Hill (1999) - Golem retro_ Video aufrufen
Huawei-Gründer Ren Zhengfei: Der Milliardär, der im Regen auf ein Taxi wartet
Huawei-Gründer Ren Zhengfei
Der Milliardär, der im Regen auf ein Taxi wartet

Huawei steht derzeit im Zentrum des Medieninteresses - und so wird auch mehr über den Gründer und Chef Ren Zhengfei bekannt, der sich bisher so gut wie möglich aus der Öffentlichkeit ferngehalten hatte.
Ein Porträt von Achim Sawall

  1. US-Handelsboykott Ausnahmeregelung für Geschäfte mit Huawei erneut verlängert
  2. "Eindeutiger Beweis" US-Regierung holt ihre "Smoking Gun" gegen Huawei heraus
  3. 5G Unionsfraktion lehnt Verbot von Huawei einstimmig ab

Geforce Now im Test: Nvidia nutzt einzigartige CPU und GPU
Geforce Now im Test
Nvidia nutzt einzigartige CPU und GPU

Wer mit Nvidias Geforce Now spielt, bekommt laut Performance Overlay eine RTX 2060c oder RTX 2080c, tatsächlich aber werden eine Tesla RTX T10 als Grafikkarte und ein Intel CC150 als Prozessor verwendet. Die Performance ist auf die jeweiligen Spiele abgestimmt, vor allem mit Raytracing.
Ein Test von Marc Sauter

  1. Cloud Gaming Activision Blizzard zieht Spiele von Geforce Now zurück
  2. Nvidia-Spiele-Streaming Geforce Now kostet 5,49 Euro pro Monat
  3. Geforce Now Nvidias Cloud-Gaming-Dienst kommt noch 2019 für Android

Frauen in der Technik: Von wegen keine Vorbilder!
Frauen in der Technik
Von wegen keine Vorbilder!

Technik, also auch Computertechnik, war schon immer ein männlich dominiertes Feld. Das heißt aber nicht, dass es in der Geschichte keine bedeutenden Programmiererinnen gab. Besonders das Militär zeigte reges Interesse an den Fähigkeiten von Frauen.
Von Valerie Lux

  1. Arbeit Warum anderswo mehr Frauen IT-Berufe ergreifen
  2. Arbeit Was IT-Recruiting von der Bundesliga lernen kann
  3. Arbeit Wer ein Helfersyndrom hat, ist im IT-Support richtig

    •  /