Aus dem Verlag: KI soll toxische Sprachchats in Echtzeit erkennen
Sprachkommunikation ist bei vielen digitalen Angeboten inzwischen ein zentraler Bestandteil. Ob in Online-Spielen, virtuellen Veranstaltungen, Bildungsplattformen oder XR-Anwendungen: Nutzer tauschen sich zunehmend per Sprache aus. Gleichzeitig stehen Betreiber vor der Herausforderung, Beleidigungen, Belästigungen, Grooming-Versuche oder extremistische Inhalte wirksam einzudämmen.
Das Hamburger Unternehmen 4Players(öffnet im neuen Fenster) (gehört wie Golem zu Computec Media) und die norwegische Firma Aiba(öffnet im neuen Fenster) wollen das Problem nun gemeinsam angehen.
Die Kommunikationsplattform Odin erhält eine Anbindung an Aibas KI-Moderationslösung Amanda, die bislang vor allem textbasierte Kommunikation analysierte und erstmals auch Sprache auswerten kann.
Die Idee dahinter: Gesprochene Inhalte aus Voice-Räumen werden zunächst automatisch transkribiert. Anschließend analysiert Amanda den Gesprächsverlauf auf problematische Inhalte, Zusammenhänge und Muster.
Laut beider Unternehmen sollen toxisches Verhalten, Grooming oder Radikalisierungstendenzen innerhalb weniger Sekunden erkannt werden können, so dass Moderatoren oder automatisierte Systeme eingreifen können, bevor Situationen eskalieren.
Phillip Schuster, CEO von 4Players, verweist auf die Bedeutung von Sprachkommunikation für digitale Gemeinschaften. "Sprache schafft Vertrauen, Beziehungen und Gemeinschaften", erklärt Schuster.
Moderation ist entscheidend
Sichere und respektvolle digitale Räume würden "noch tiefere Verbindungen" ermöglichen. Zudem verweist Schuster auf Untersuchungen, wonach gute Moderation zu einer Vervierfachung täglicher Sitzungen und um 60 Prozent längeren Nutzungszeiten führen könne.
Auch Aiba sieht die Zusammenarbeit als logischen Schritt. CEO und Mitgründerin Hege Tokerud sagt: "Odin gibt Entwicklern die Sprachinfrastruktur, um Nutzer zusammenzubringen. Wir sorgen dafür, dass diese Gemeinschaften sicher und gesund bleiben." Gemeinsam ergebe das "ein ziemlich vollständiges Gesamtbild".
Technisch erfolgt die Analyse über Odin Cortex, die sogenannte Intelligenzschicht der Plattform. Sie erfasst Sprache aus aktiven Voice-Räumen, erstellt Transkripte und stellt Amanda die Daten zur Auswertung bereit. Die Ergebnisse werden anschließend an die Betreiber übermittelt, die selbst über geeignete Maßnahmen entscheiden können.
Datenschutz und DSGVO
Nach Angaben der Unternehmen berücksichtigt Amanda nicht nur einzelne Aussagen, sondern den Kontext einer Unterhaltung. Schwierige Grenzfälle sollen weiterhin an menschliche Moderatoren weitergeleitet werden. Als mögliche Reaktionen nennen die Anbieter Warnungen, automatische Stummschaltungen, Sperren oder die Einbindung bestehender Moderationsabläufe.
Ein großer Schwerpunkt liege auf Datenschutz und Regulierung. Sprachdaten sollen verschlüsselt übertragen und gespeichert werden. Eine dauerhafte Speicherung erfolge nur dann, wenn problematische Inhalte erkannt werden. Die Lösung sei zudem auf Anforderungen wie die DSGVO ausgelegt.
Neben Spielen sehen 4Players und Aiba Einsatzmöglichkeiten in Bildungsplattformen, XR-Anwendungen, virtuellen Veranstaltungen und anderen digitalen Umgebungen, in denen Menschen per Sprache miteinander kommunizieren.
- Anzeige Hier geht es zur AVM Fritzbox 7590 AX bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.