Facebook: An Reddit-Posts trainierter Chatbot beleidigt Menschen

Der Facebook-Bot Blender verwendet 1,5 Milliarden Konversationen aus Public-Domain-Texten. Einige davon sind nicht unbedingt gute Vorbilder.

Artikel veröffentlicht am ,
Facebooks Chatbot hat ein loses Mundwerk.
Facebooks Chatbot hat ein loses Mundwerk. (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

Neben Google arbeitet auch Facebook an einem Chatbot, der möglichst natürlich mit echten Menschen interagieren soll. Das Programm Blender verwendet Machine Learning, um aus etwa 1,5 Milliarden Konversationen und Chats Antworten und Reaktionen zu generieren. Die Texte stammen aus Public-Domain-Quellen wie dem Community-Portal Reddit, berichtet der britische Nachrichtensender BBC. Dort liege ein Problem, das die Entwickler möglicherweise unterschätzt haben.

Stellenmarkt
  1. Core Managerin / Core Manager für Bioinformatics (m/w/d)
    Robert Koch-Institut, Berlin
  2. Teamleiterin / Teamleiter (w/m/d) im Systemmanagement Unix
    Informationstechnikzentrum Bund (ITZBund), Frankfurt am Main, Wiesbaden
Detailsuche

Beim Training habe die Software in langen Konversationen oft mit beleidigenden und aggressiven Worten geantwortet. Außerdem hat sie sich Fakten teilweise einfach ausgedacht und diese Fake News in Reaktionen miteingebaut. Trotzdem - oder eventuell deshalb - sei Blender schon sehr menschlich: 49 Prozent der Tester haben laut dem BBC Interaktionen mit dem Bot den Diskussionen mit echten Menschen bevorzugt. "So großartig wie die Plattform Reddit ist: Um Algorithmen zu trainieren, die auf den dort zu findenden Konversationen basieren, wird man viel Spreu vom Weizen trennen müssen", sagt KI-Forscher und -Berater Dave Coplin dem britischen Nachrichtensender.

Das hat Facebook nicht daran gehindert, den eigenen Chatbot gegen das Konkurrenzprodukt Meena von Google antreten zu lassen. In einem Test sei Blender zu 69 Prozent von Menschen bevorzugt worden. "Wir haben diesen Meilenstein mit einem neuen Chatbot erreicht, dessen Zusammensetzung verbesserte Decoding-Techniken [...] und ein Modell mit 9,4 Milliarden Parametern beinhaltet - was 3,6-mal mehr ist als das größte existierende System", sagt Facebook.

Facebook hat auch einen kurzen Ausschnitt einer Konversation zwischen Blender und einem Menschen veröffentlicht. Die Software versucht, auf Teildetails zu antworten und weiterführende Fragen zu stellen, um ein Gespräch am Laufen zu halten. Die Satzstruktur ist recht klar und simpel. Es ist daher schwer zu sagen, wie sich Blender in längeren Gesprächen verhält.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


grutzt 08. Mai 2020

Man kann ja wohl davon ausgehen, dass relativ stupide auf Schlüsselwörter reagiert und...

Proctrap 07. Mai 2020

Das wäre sicherlich ganz amüsant

chefin 07. Mai 2020

Zwischenmenschlich heist, das wenn sich zwei verstehen und miteinander klar kommen, eine...

Inori-Senpai 07. Mai 2020

Der Charakter aus Futurama heißt doch Bender



Aktuell auf der Startseite von Golem.de
Jahressteuergesetz
Homeoffice-Pauschale wird noch einmal erhöht

Wer im Homeoffice arbeitet, kann mehr von der Steuer absetzen als bislang geplant. Der Maximalbetrag steigt an.

Jahressteuergesetz: Homeoffice-Pauschale wird noch einmal erhöht
Artikel
  1. AVM Fritzbox: FritzOS 7.50 ist da
    AVM Fritzbox
    FritzOS 7.50 ist da

    Das neue Betriebssystem für Fritzboxen bringt viele Neuerungen beim Smart Home, führt Wireguard per QR-Code ein und verbessert IP-Sperren.

  2. Samsung-Tablet bei Amazon um 180 Euro reduziert
     
    Samsung-Tablet bei Amazon um 180 Euro reduziert

    Auch nach dem Black Friday gibt es bei Amazon günstige Samsung-Tablets. Je nach Modell sind derzeit bis zu 180 Euro Rabatt möglich.
    Ausgewählte Angebote des E-Commerce-Teams

  3. IT-Projektmanager: Mehr als Excel-Schubser und Flaschenhälse
    IT-Projektmanager
    Mehr als Excel-Schubser und Flaschenhälse

    Viele IT-Teams halten ihr Projektmanagement für überflüssig. Wir zeigen drei kreative Methoden, mit denen Projektmanager wirklich relevant werden.
    Ein Ratgebertext von Jakob Rufus Klimkait und Kristin Ottlinger

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5-Bundle vorbestellbar • Amazon-Geräte bis 53% günstiger, u. a. Echo Dot 5. Gen. 29,99€ • Mindstar: AMD Ryzen 7 7700X Tray 369€ • Crucial-SSDs günstiger • Advent-Tagesdeals bei MediaMarkt/Saturn: u. a. E-Auto-Wallbox 399€ • LG OLED TV (2022) 55" 120Hz 949€ [Werbung]
    •  /