Facebook: An Reddit-Posts trainierter Chatbot beleidigt Menschen

Der Facebook-Bot Blender verwendet 1,5 Milliarden Konversationen aus Public-Domain-Texten. Einige davon sind nicht unbedingt gute Vorbilder.

Artikel veröffentlicht am ,
Facebooks Chatbot hat ein loses Mundwerk.
Facebooks Chatbot hat ein loses Mundwerk. (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

Neben Google arbeitet auch Facebook an einem Chatbot, der möglichst natürlich mit echten Menschen interagieren soll. Das Programm Blender verwendet Machine Learning, um aus etwa 1,5 Milliarden Konversationen und Chats Antworten und Reaktionen zu generieren. Die Texte stammen aus Public-Domain-Quellen wie dem Community-Portal Reddit, berichtet der britische Nachrichtensender BBC. Dort liege ein Problem, das die Entwickler möglicherweise unterschätzt haben.

Stellenmarkt
  1. IT-Systemadministrator (m/w/d)
    Schock GmbH, Regen
  2. Projektmanager "technische Administration Schulnetzwerk" (m/w/d)
    Gemeinnützige Hertie-Stiftung, Frankfurt
Detailsuche

Beim Training habe die Software in langen Konversationen oft mit beleidigenden und aggressiven Worten geantwortet. Außerdem hat sie sich Fakten teilweise einfach ausgedacht und diese Fake News in Reaktionen miteingebaut. Trotzdem - oder eventuell deshalb - sei Blender schon sehr menschlich: 49 Prozent der Tester haben laut dem BBC Interaktionen mit dem Bot den Diskussionen mit echten Menschen bevorzugt. "So großartig wie die Plattform Reddit ist: Um Algorithmen zu trainieren, die auf den dort zu findenden Konversationen basieren, wird man viel Spreu vom Weizen trennen müssen", sagt KI-Forscher und -Berater Dave Coplin dem britischen Nachrichtensender.

Das hat Facebook nicht daran gehindert, den eigenen Chatbot gegen das Konkurrenzprodukt Meena von Google antreten zu lassen. In einem Test sei Blender zu 69 Prozent von Menschen bevorzugt worden. "Wir haben diesen Meilenstein mit einem neuen Chatbot erreicht, dessen Zusammensetzung verbesserte Decoding-Techniken [...] und ein Modell mit 9,4 Milliarden Parametern beinhaltet - was 3,6-mal mehr ist als das größte existierende System", sagt Facebook.

Facebook hat auch einen kurzen Ausschnitt einer Konversation zwischen Blender und einem Menschen veröffentlicht. Die Software versucht, auf Teildetails zu antworten und weiterführende Fragen zu stellen, um ein Gespräch am Laufen zu halten. Die Satzstruktur ist recht klar und simpel. Es ist daher schwer zu sagen, wie sich Blender in längeren Gesprächen verhält.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


grutzt 08. Mai 2020

Man kann ja wohl davon ausgehen, dass relativ stupide auf Schlüsselwörter reagiert und...

Proctrap 07. Mai 2020

Das wäre sicherlich ganz amüsant

chefin 07. Mai 2020

Zwischenmenschlich heist, das wenn sich zwei verstehen und miteinander klar kommen, eine...

Inori-Senpai 07. Mai 2020

Der Charakter aus Futurama heißt doch Bender

DerDick 07. Mai 2020

Puh, ja, da hast du ein wenig viel in meinen Text reininterpretiert. Ich bin großer Fan...



Aktuell auf der Startseite von Golem.de
Snapdragon 8 Gen1
Der erste ARMv9-Smartphone-Drache ist da

Neuer Name, neue Kerne: Der Snapdragon 8 Gen1 nutzt ARMv9-Technik, auch das 5G-Modem und die künstliche Intelligenz sind viel besser.

Snapdragon 8 Gen1: Der erste ARMv9-Smartphone-Drache ist da
Artikel
  1. 470 - 694 MHz: Streit um DVB-T2 und Veranstalterfrequenzen spitzt sich zu
    470 - 694 MHz
    Streit um DVB-T2 und Veranstalterfrequenzen spitzt sich zu

    Nach dem Vorstoß von Baden-Württemberg, einen Teil des Frequenzbereichs an das Militär zu vergeben, gibt es nun Kritiken daran aus anderen Bundesländern.

  2. Prozessoren: Intel lagert zehn Jahre alte Hardware in geheimem Lagerhaus
    Prozessoren
    Intel lagert zehn Jahre alte Hardware in geheimem Lagerhaus

    Tausende ältere CPUs und andere Hardware lagern bei Intel in einem Lagerhaus in Costa Rica. Damit lassen sich Probleme exakt nachstellen.

  3. Factorial Energy: Mercedes und Stellantis investieren in Feststoffbatterien
    Factorial Energy
    Mercedes und Stellantis investieren in Feststoffbatterien

    Durch Festkörperakkus sollen Elektroautos sicherer werden und schneller laden. Doch mit einer schnellen Serienproduktion ist nicht zu rechnen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Nur noch heute: Bis zu 75% auf Switch-Spiele • AOC 31,5" WQHD 165Hz 289,90€ • Gaming-Sale bei MediaMarkt • G.Skill 64GB Kit DDR4-3800 319€ • Bis zu 300€ Direktabzug: u. a. TVs, Laptops • WD MyBook HDD 18TB 329€ • Switch OLED 359,99€ • Xbox Series S 275,99€ [Werbung]
    •  /