Deep-Learning: Arschloch-KI soll spielerisch Vorurteile zeigen

Zwei Künstler nutzen die Antworten aus einem Reddit-Forum, um die Frage zu beantworten: Bist du das Arschloch?

Artikel veröffentlicht am 27. April 2022, 14:56 Uhr, Sebastian Grüner

In manchen Situationen verhalten sich Menschen als Arschloch. Ein KI-Modell soll das nun beurteilen. (Bild: Charles Black/BIPs/Getty Images)

Das Subreddit r/AmItheAsshole dient als eine spezielle Art des Hilfeforums mit besonders meinungsstarken und teils sehr konträren Antworten und erfreut sich wohl auch deshalb mit fast vier Millionen Nutzern besonders großer Beliebtheit. Die Künstler Morry Kolman and Alex Petros haben die Antworten in dem Forum nun genutzt, um ein voreingenommenes KI-Modell zu erstellen, wie das Magazin Motherboard berichtet.

In dem Forum können Nutzer danach fragen, ob sie sich nach Meinung der anderen in bestimmten Situationen wie ein Arschloch verhalten haben oder eben nicht. Die Antworten können dabei gewichtet werden und es gibt es eine Art Abstimmungssystem, um eine Antwort auf die jeweils eingangs gestellten Fragen zu finden.

Die beiden Künstler haben die Antworten entsprechend den Kategorien, Arschloch, kein Arschloch oder Alle sind doof (Everyone Sucks Here) sortiert und darauf aufbauend das Training für ihr Maschine-Learning Modell erstellt. Laut Angaben von Kolman handele es sich dabei um insgesamt mehr als 100.000 Einträge in dem Forum. Das Modell selbst kann auf der Webseite Are You The Asshole? (Bist du das Arschloch?) getestet werden.

Voreingenommenheit von KI aufzeigen

Ziel sei es, "Benutzer auf unterhaltsame und interaktive Weise über die Auswirkungen von voreingenommenen Daten auf die Entscheidungsfähigkeit künstlicher Intelligenz aufzuklären", wie Kolman auf Twitter schreibt.

Weiter heißt es: "In diesem Projekt geht es um die Voreingenommenheit und die motivierte Argumentation, die schlechte Daten einer KI vermitteln. Die Auswirkungen davon sind jedoch abstrakt. Wie können wir ein gewichtetes Urteilsvermögen betrachten? Wie sieht ein schlecht trainiertes Modell aus? Kurz gesagt, es sieht aus wie Are you the Asshole".

Nutzer, die den von den Künstlern erstellten Dienst ausprobieren wollen, können ein beliebiges moralisches Dilemma als Frage stellen und erhalten dann eben eine zustimmende, eine ablehnende und eine neutrale Antwort. Die beteiligten Künstler verweisen dabei letztlich nicht nur auf die Voreingenommenheit möglicher KI-Systeme, sondern auch auf die teils extreme Debattenkultur im Internet.