Machine Learning: KI beleidigt auf 4Chan als Chatbot zurück

Ein mit 4Chan-Kommentaren trainiertes KI-Modell postet Hass und Beleidigungen auf dem Portal. Wissenschaftler kritisieren das Vorgehen.

Artikel veröffentlicht am ,
Das 4Chan-Logo ist ein Kleeblatt.
Das 4Chan-Logo ist ein Kleeblatt. (Bild: Pixabay)

Der Youtuber Yannic Kilcher hat ein Sprachmodell für eine KI mithilfe von 3,3 Millionen Threads des Unterforums /pol von 4Chan trainiert, das für seine komplett unmoderierten und hasserfüllten Kommentare berüchtigt ist. Darauf aufbauend entwickelte Kilcher einen Chatbot, der wiederum Tausende Nachrichten auf der Plattform postete.

Stellenmarkt
  1. SW-Integrator für embedded Chassis Systeme (m/w / divers)
    Continental AG, Frankfurt am Main
  2. Service-Manager Learning Management System (m/w/d)
    VIWIS GmbH, Hamburg, München
Detailsuche

Kilcher nennt sein Modell GPT-4Chan in Anlehnung an das riesige Sprachmodell GPT-3, das vom OpenAI-Forschungsteam erstellt wurde. Darüber hinaus bezeichnet Kilcher sein Modell aber auch als "die schlimmste KI aller Zeiten". Denn wie zu erwarten, sind die Ausgaben des Modells auf Grund der teils extrem voreingenommenen Trainingsdaten ähnlich beleidigend und hasserfüllt wie diese.

Zu dem Modell selbst schreibt Kilcher außerdem: "Aufgrund der sehr laxen Regeln und der Anonymität der Poster enthält ein großer Teil des Datensatzes beleidigendes Material. Daher ist es sehr wahrscheinlich, dass das Modell beleidigende Ergebnisse liefert, einschließlich, aber nicht beschränkt auf: Toxizität, Hassrede, Rassismus, Sexismus, Homo- und Transphobie, Fremdenfeindlichkeit und Antisemitismus."

Der Youtuber bezeichnete das Modell in einem Video dazu als "schockierend effektiv". Darüber hinaus heißt es: "Es brachte die Mischung aus Beleidigung, Nihilismus, Trolling und tiefem Misstrauen gegenüber jeglicher Information, die die meisten Beiträge auf /pol durchdringt, perfekt auf den Punkt." Der Chatbot habe in 24 Stunden etwa 15.000 Beiträge in dem Forum hinterlassen.

Künstliche Intelligenz: Wissensverarbeitung - Neuronale Netze

Kritik an dem Modell

Golem Karrierewelt
  1. Kotlin für Java-Entwickler: virtueller Zwei-Tage-Workshop
    13./14.10.2022, Virtuell
  2. CEH Certified Ethical Hacker v11: virtueller Fünf-Tage-Workshop
    27.06.-01.07.2022, Virtuell
Weitere IT-Trainings

KI-Forscher kritisierten jedoch das Vorgehen von Kilcher. So schrieb etwa Lauren Oakden-Rayner, Senior Research Fellow am Australian Institute for Machine Learning: "Dieses Experiment würde niemals eine Ethikkommission für die Forschung am Menschen passieren."

Denn mit dem Erstellen das Chatbots und seinen Beiträgen auf 4Chan ist eben das geschehen, ein Experiment am Menschen. Oakden-Rayner schrieb in Bezug auf Kilcher weiter : "Er führte Menschenversuche durch, ohne die Nutzer zu informieren, ohne Zustimmung und ohne Aufsicht. Dies verstößt gegen jeden Grundsatz der Ethik in der Humanforschung."

Eine ähnliche Diskussion gab es auch auf der Plattform Hugging Face, die zum Teilen von KI-Modellen gedacht ist. Dort veröffentlichte Kilcher sein Modell. Clement Delangue, CEO von Hugging Face, reagierte schnell und das Team setzte eine Funktion auf der Plattform um, die es ermöglicht, den Zugang zu bestimmten Modellen zu beschränken. Derzeit ist das Modell von Kilcher jedoch überhaupt nicht verfügbar.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Garius 13. Jun 2022 / Themenstart

YMMD Aber noch lustiger würde ich den Widerspruch finden, wenn es das dann trotzdem...

Mondmann 13. Jun 2022 / Themenstart

und rotpilliert wat er ist!

jonasz 13. Jun 2022 / Themenstart

Klingt nach Zensur, das Internet wird jedoch dafür nicht genutzt bis dato, nur weil...

Hotohori 12. Jun 2022 / Themenstart

Wäre schön, wenn es so einfach funktionieren würde. Aber die meisten dieser Leute dürften...

Kommentieren



Aktuell auf der Startseite von Golem.de
Return to Monkey Island
Gameplay-Trailer zeigt neuen Guybrush Threepwood

Das dürfte nicht nur für Begeisterung sorgen: Erstmals ist Gameplay aus dem nächsten Monkey Island zu sehen - und die Hauptfigur.

Return to Monkey Island: Gameplay-Trailer zeigt neuen Guybrush Threepwood
Artikel
  1. Raumfahrt: US-Raumfrachter Cygnus führt ISS-Bahnkorrektur durch
    Raumfahrt
    US-Raumfrachter Cygnus führt ISS-Bahnkorrektur durch

    Der Westen kann auch ohne russisches Raumfahrzeug Bahnkorrekturen der ISS durchführen.

  2. WIK: Netzausbausteuer für Netflix und Co. schadet den Nutzern
    WIK
    Netzausbausteuer für Netflix und Co. schadet den Nutzern

    Werden Contentanbieter wie Netflix in Europa gezwungen, sich am Netzausbau zu beteiligen, schadet das am Ende den Nutzern. Das ergibt eine Analyse des WIK.

  3. Subventionen: Lindner will lieber Kitas als Elektroautos fördern
    Subventionen
    Lindner will lieber Kitas als Elektroautos fördern

    In der Debatte um die künftige Förderung von Elektroautos legt Finanzminister Christian Lindner nach. Die Kritik lässt nicht lange auf sich warten.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Top-TVs bis 57% Rabatt • PS5 bestellbar • MindStar (Palit RTX 3080 Ti 1.099€, G.Skill DDR5-5600 32GB 189€) • Lenovo 34" UWQHD 144 Hz günstig wie nie: 339,94€ • Corsair Wakü 236,89€ • Top-Gaming-PC mit AMD Ryzen 7 RTX 3070 Ti 1.700€ • Alternate (Team Group SSD 1TB 119,90€)[Werbung]
    •  /