Minerva: Künstliche Intelligenz sperrt toxische Counter Striker

Beleidigungen und sonstige toxische Ausfälle im Chat von Counter Strike Global Offensive werden sofort erkannt: Zusammen mit Google hat das Unternehmen Faceit einen KI-Moderator entwickelt, der schon fleißig problematische Spieler sperrt.

Artikel veröffentlicht am ,
Artwork von Counter Strike Global Offensive
Artwork von Counter Strike Global Offensive (Bild: Valve Corporation)

Im August 2019 hat eine Künstliche Intelligenz im Chat von Counter Strike Global Offensive genau 2.280.769 Nachrichten mit Rassismus, Hass, Beleidigungen und sonstigen toxischen Inhalten erkannt. Im September gab es knapp 20 Prozent weniger solche Botschaften - genau 1.821.734. Ermittelt hat das ein KI-Moderator namens Minerva, dessen erste Version der Hersteller Faceit in seinem Blog vorgestellt hat.

Stellenmarkt
  1. Fachinformatiker / Mitarbeiter (m/w/d) für Anwenderschulungen in Ecclesias
    Erzbistum Hamburg, Hamburg
  2. Cloud Platform Engineer / DevOps (m/f/d)
    PTV Group, Karlsruhe
Detailsuche

Faceit veranstaltet große Counter-Strike-Turniere, Minerva ist nach Angaben des Unternehmens zusammen mit Google Cloud und Jigsaw (früher Google Labs) entstanden. Das System ist Ende August freigeschaltet worden.

Die Entwickler schreiben, dass die Software auf Basis neuronaler Netze zuvor monatelang darauf trainiert worden sei, so wenig falsche Alarmmeldungen wie möglich zu erstellen. Während des Probebetriebs seien rund 200 Millionen Nachrichten untersucht worden, bei denen etwa sieben Millionen toxische Inhalte gefunden wurden.

Wer mit problematischen Nachrichten auffällt, erhält nach Angaben von Faceit eine Verwarnung oder eine Sperre - je nachdem, wie Minerva die Schwere des Vergehens einstuft. Bei Wiederholungstätern soll die Schwere der Strafe innerhalb kurzer Zeit gesteigert werden. Die Anzahl der Spieler, die toxische Nachrichten verschicken, sei um rund 8 Prozent auf rund 228.000 zurückgegangen.

Golem Akademie
  1. IT-Fachseminare der Golem Akademie
    Live-Workshops zu Schlüsselqualifikationen
  2. 1:1-Videocoaching mit Golem Shifoo
    Berufliche Herausforderungen meistern
  3. Online-Sprachkurse mit Golem & Gymglish
    Kurze Lektionen, die funktionieren
Weitere IT-Trainings

Faceit schreibt, dass zusätzlich zu den KI-Algorithmen ein neues Verfahren zum Aufdecken doppelter Nutzerkonten eingeführt worden sei. Wer im Verdacht stehe, nach einer Sperre einfach mit einem neuen Account an den Turnieren teilnehmen zu wollen, müsse seine Telefonnummer angeben. Von rund 250.000 per SMS abgefragten Personen hätten rund 50.000 nicht geantwortet.

Das Paket aus KI-Moderation und SMS-Abfrage soll weiter verbessert und auf andere Bereiche ausgeweitet werden, in denen Ausfälle zum Alltag gehören - konkreter wird Faceit nicht. Das Unternehmen will Minerva auch anderen Organisatoren von Turnieren zur Verfügung stellen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Yash 31. Okt 2019

Ach es geht mir doch nicht um Selbstachtung oder Wertigkeitsgefühl, das wird durch sowas...

And3rgraund 30. Okt 2019

Die Bedeutung und der Gesamtzusammenhang wird hier nicht wie ein "Mensch" verstanden...

Tantalus 29. Okt 2019

Es gibt aber doch noch einen Unterschied, ob Dein Char etwas zu einem anderen Char sagt...

Trockenobst 29. Okt 2019

Entweder wissen sie das sie sowieso nie gut genug sind, weil sie nicht trainieren wollen...

Trockenobst 29. Okt 2019

Viele der Typen haben Tools/Skripte, die dich nerven. Da du nicht bereit bist deinen...



Aktuell auf der Startseite von Golem.de
600 Millionen Euro
Bundeswehr lässt Funkgeräte von 1982 nachbauen

Das SEM 80/90 mit 16 KBit/s wird exakt nachgebaut, zum Stückpreis von rund 20.000 Euro. Das Retrogerät geht für die Bundeswehr in Serie.

600 Millionen Euro: Bundeswehr lässt Funkgeräte von 1982 nachbauen
Artikel
  1. Foundation bei Apple TV+: Die unverfilmbare Asimov-Trilogie grandios verfilmt
    Foundation bei Apple TV+
    Die unverfilmbare Asimov-Trilogie grandios verfilmt

    Gegen die Welt von Asimovs Foundation-Trilogie wirkt Game of Thrones überschaubar. Apple hat mit einem enormen Budget eine enorme Science-Fiction-Serie geschaffen.
    Eine Rezension von Peter Osteried

  2. Pakete: DHL-Preiserhöhung könnte Amazon Prime verteuern
    Pakete
    DHL-Preiserhöhung könnte Amazon Prime verteuern

    DHL Paket erhöht die Preise für Geschäftskunden. Das könnte Auswirkungen auf den Preis von Amazon Prime haben.

  3. Security: Forscher veröffentlicht iOS-Lücken aus Ärger über Apple
    Security
    Forscher veröffentlicht iOS-Lücken aus Ärger über Apple

    Das Bug-Bounty-Programm von Apple ist vielfach kritisiert worden. Ein Forscher veröffentlicht seine Lücken deshalb nun ohne Patch.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Samsung G7 31,5" WQHD 240Hz 499€ • Lenovo-Laptops zu Bestpreisen • 19% auf Sony-TVs bei MM • Samsung SSD 980 Pro 1TB 150,50€ • Dualsense-Ladestation 35,99€ • iPhone 13 erschienen ab 799€ • Sega Discovery Sale bei GP (u. a. Yakuza 0 4,50€) [Werbung]
    •  /