Original-URL des Artikels: https://www.golem.de/news/minerva-kuenstliche-intelligenz-sperrt-toxische-counter-striker-1910-144662.html    Veröffentlicht: 28.10.2019 11:18    Kurz-URL: https://glm.io/144662

Minerva

Künstliche Intelligenz sperrt toxische Counter Striker

Beleidigungen und sonstige toxische Ausfälle im Chat von Counter Strike Global Offensive werden sofort erkannt: Zusammen mit Google hat das Unternehmen Faceit einen KI-Moderator entwickelt, der schon fleißig problematische Spieler sperrt.

Im August 2019 hat eine Künstliche Intelligenz im Chat von Counter Strike Global Offensive genau 2.280.769 Nachrichten mit Rassismus, Hass, Beleidigungen und sonstigen toxischen Inhalten erkannt. Im September gab es knapp 20 Prozent weniger solche Botschaften - genau 1.821.734. Ermittelt hat das ein KI-Moderator namens Minerva, dessen erste Version der Hersteller Faceit in seinem Blog vorgestellt hat.

Faceit veranstaltet große Counter-Strike-Turniere, Minerva ist nach Angaben des Unternehmens zusammen mit Google Cloud und Jigsaw (früher Google Labs) entstanden. Das System ist Ende August freigeschaltet worden.

Die Entwickler schreiben, dass die Software auf Basis neuronaler Netze zuvor monatelang darauf trainiert worden sei, so wenig falsche Alarmmeldungen wie möglich zu erstellen. Während des Probebetriebs seien rund 200 Millionen Nachrichten untersucht worden, bei denen etwa sieben Millionen toxische Inhalte gefunden wurden.

Wer mit problematischen Nachrichten auffällt, erhält nach Angaben von Faceit eine Verwarnung oder eine Sperre - je nachdem, wie Minerva die Schwere des Vergehens einstuft. Bei Wiederholungstätern soll die Schwere der Strafe innerhalb kurzer Zeit gesteigert werden. Die Anzahl der Spieler, die toxische Nachrichten verschicken, sei um rund 8 Prozent auf rund 228.000 zurückgegangen.

Faceit schreibt, dass zusätzlich zu den KI-Algorithmen ein neues Verfahren zum Aufdecken doppelter Nutzerkonten eingeführt worden sei. Wer im Verdacht stehe, nach einer Sperre einfach mit einem neuen Account an den Turnieren teilnehmen zu wollen, müsse seine Telefonnummer angeben. Von rund 250.000 per SMS abgefragten Personen hätten rund 50.000 nicht geantwortet.

Das Paket aus KI-Moderation und SMS-Abfrage soll weiter verbessert und auf andere Bereiche ausgeweitet werden, in denen Ausfälle zum Alltag gehören - konkreter wird Faceit nicht. Das Unternehmen will Minerva auch anderen Organisatoren von Turnieren zur Verfügung stellen.

 (ps)


Verwandte Artikel:
Elliptische Kurven: Minerva-Angriff zielt auf zertifizierte Krypto-Chips   
(04.10.2019, https://glm.io/144256 )
Agones: Google will Game-Server in der Cloud orchestrieren   
(02.08.2019, https://glm.io/142949 )
E-Mails: Phishing oder nicht?   
(23.01.2019, https://glm.io/138918 )
IT an Schulen: Intelligenter Stift zeichnet Handschrift von Schülern auf   
(14.10.2019, https://glm.io/144419 )
Facebook: Software täuscht Gesichtserkennung mit verzerrten Gesichtern   
(28.10.2019, https://glm.io/144661 )

© 1997–2020 Golem.de, https://www.golem.de/