Machine Learning: KI beleidigt auf 4Chan als Chatbot zurück

Ein mit 4Chan-Kommentaren trainiertes KI-Modell postet Hass und Beleidigungen auf dem Portal. Wissenschaftler kritisieren das Vorgehen.

Artikel veröffentlicht am ,
Das 4Chan-Logo ist ein Kleeblatt.
Das 4Chan-Logo ist ein Kleeblatt. (Bild: Pixabay)

Der Youtuber Yannic Kilcher hat ein Sprachmodell für eine KI mithilfe von 3,3 Millionen Threads des Unterforums /pol von 4Chan trainiert, das für seine komplett unmoderierten und hasserfüllten Kommentare berüchtigt ist. Darauf aufbauend entwickelte Kilcher einen Chatbot, der wiederum Tausende Nachrichten auf der Plattform postete.

Stellenmarkt
  1. Product Owner (m/w/d)
    Allianz Deutschland AG, Unterföhring (bei München)
  2. Wissenschaftliche*r Mitarbeiter*in (m/w/d) für den Bereich Community Interaction innerhalb ... (m/w/d)
    BAM - Bundesanstalt für Materialforschung und -prüfung, Berlin-Steglitz
Detailsuche

Kilcher nennt sein Modell GPT-4Chan in Anlehnung an das riesige Sprachmodell GPT-3, das vom OpenAI-Forschungsteam erstellt wurde. Darüber hinaus bezeichnet Kilcher sein Modell aber auch als "die schlimmste KI aller Zeiten". Denn wie zu erwarten, sind die Ausgaben des Modells auf Grund der teils extrem voreingenommenen Trainingsdaten ähnlich beleidigend und hasserfüllt wie diese.

Zu dem Modell selbst schreibt Kilcher außerdem: "Aufgrund der sehr laxen Regeln und der Anonymität der Poster enthält ein großer Teil des Datensatzes beleidigendes Material. Daher ist es sehr wahrscheinlich, dass das Modell beleidigende Ergebnisse liefert, einschließlich, aber nicht beschränkt auf: Toxizität, Hassrede, Rassismus, Sexismus, Homo- und Transphobie, Fremdenfeindlichkeit und Antisemitismus."

Der Youtuber bezeichnete das Modell in einem Video dazu als "schockierend effektiv". Darüber hinaus heißt es: "Es brachte die Mischung aus Beleidigung, Nihilismus, Trolling und tiefem Misstrauen gegenüber jeglicher Information, die die meisten Beiträge auf /pol durchdringt, perfekt auf den Punkt." Der Chatbot habe in 24 Stunden etwa 15.000 Beiträge in dem Forum hinterlassen.

Künstliche Intelligenz: Wissensverarbeitung - Neuronale Netze

Kritik an dem Modell

Golem Karrierewelt
  1. Go für Einsteiger: virtueller Zwei-Tages-Workshop
    25./26.07.2022, Virtuell
  2. Adobe Premiere Pro Aufbaukurs: virtueller Zwei-Tage-Workshop
    14./15.07.2022, Virtuell
Weitere IT-Trainings

KI-Forscher kritisierten jedoch das Vorgehen von Kilcher. So schrieb etwa Lauren Oakden-Rayner, Senior Research Fellow am Australian Institute for Machine Learning: "Dieses Experiment würde niemals eine Ethikkommission für die Forschung am Menschen passieren."

Denn mit dem Erstellen das Chatbots und seinen Beiträgen auf 4Chan ist eben das geschehen, ein Experiment am Menschen. Oakden-Rayner schrieb in Bezug auf Kilcher weiter : "Er führte Menschenversuche durch, ohne die Nutzer zu informieren, ohne Zustimmung und ohne Aufsicht. Dies verstößt gegen jeden Grundsatz der Ethik in der Humanforschung."

Eine ähnliche Diskussion gab es auch auf der Plattform Hugging Face, die zum Teilen von KI-Modellen gedacht ist. Dort veröffentlichte Kilcher sein Modell. Clement Delangue, CEO von Hugging Face, reagierte schnell und das Team setzte eine Funktion auf der Plattform um, die es ermöglicht, den Zugang zu bestimmten Modellen zu beschränken. Derzeit ist das Modell von Kilcher jedoch überhaupt nicht verfügbar.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Garius 13. Jun 2022 / Themenstart

YMMD Aber noch lustiger würde ich den Widerspruch finden, wenn es das dann trotzdem...

Mondmann 13. Jun 2022 / Themenstart

und rotpilliert wat er ist!

jonasz 13. Jun 2022 / Themenstart

Klingt nach Zensur, das Internet wird jedoch dafür nicht genutzt bis dato, nur weil...

Hotohori 12. Jun 2022 / Themenstart

Wäre schön, wenn es so einfach funktionieren würde. Aber die meisten dieser Leute dürften...

Kommentieren



Aktuell auf der Startseite von Golem.de
SFConservancy
Open-Source-Entwickler sollen Github wegen Copilot verlassen

Ähnlich wie schon vor Jahrzehnten mit Sourceforge sollen Open-Source-Projekte nun auch Github verlassen.

SFConservancy: Open-Source-Entwickler sollen Github wegen Copilot verlassen
Artikel
  1. Connect-Festnetztest: Telekom gewinnt, Vodafone schwach, Deutsche Glasfaser besser
    Connect-Festnetztest
    Telekom gewinnt, Vodafone schwach, Deutsche Glasfaser besser

    Erstmals nahm Deutsche Glasfaser an dem Vergleich teil und war besser als die Telekom. Allerdings sind beide in unterschiedlichen Kategorien gelistet.

  2. Wärmeversorgung: Berlin baut Thermoskanne gegen Gasnotstand
    Wärmeversorgung
    Berlin baut Thermoskanne gegen Gasnotstand

    Der Versorger Vattenfall baut in Berlin einen riesigen Warmwasserspeicher, um Häuser im Winter heizen zu können. Das könnte beim möglichen Gasnotstand helfen.

  3. Chrome OS Flex: Das Apple Chromebook
    Chrome OS Flex
    Das Apple Chromebook

    Ein zehn Jahre altes Notebook lässt sich mit Chrome OS Flex wieder flott machen. Wir haben Googles Betriebssystem ausprobiert und waren begeistert.
    Ein Erfahrungsbericht von Martin Wolf

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • MSI RTX 3080 12GB günstig wie nie: 949€ • AMD Ryzen 7 günstig wie nie: 259€ • Der beste 2.000€-Gaming-PC • Cooler Master 34" UWQHD 144 Hz günstig wie nie: 467,85€ • Asus RX 6900 XT OC günstig wie nie: 1.049€ • Mindstar (Gigabyte RTX 3060 399€) • Galaxy Watch3 45 mm 119€ [Werbung]
    •  /