• IT-Karriere:
  • Services:

Facebook: An Reddit-Posts trainierter Chatbot beleidigt Menschen

Der Facebook-Bot Blender verwendet 1,5 Milliarden Konversationen aus Public-Domain-Texten. Einige davon sind nicht unbedingt gute Vorbilder.

Artikel veröffentlicht am ,
Facebooks Chatbot hat ein loses Mundwerk.
Facebooks Chatbot hat ein loses Mundwerk. (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

Neben Google arbeitet auch Facebook an einem Chatbot, der möglichst natürlich mit echten Menschen interagieren soll. Das Programm Blender verwendet Machine Learning, um aus etwa 1,5 Milliarden Konversationen und Chats Antworten und Reaktionen zu generieren. Die Texte stammen aus Public-Domain-Quellen wie dem Community-Portal Reddit, berichtet der britische Nachrichtensender BBC. Dort liege ein Problem, das die Entwickler möglicherweise unterschätzt haben.

Stellenmarkt
  1. MBDA Deutschland, Schrobenhausen
  2. AKDB Anstalt für kommunale Datenverarbeitung in Bayern, München, Nürnberg

Beim Training habe die Software in langen Konversationen oft mit beleidigenden und aggressiven Worten geantwortet. Außerdem hat sie sich Fakten teilweise einfach ausgedacht und diese Fake News in Reaktionen miteingebaut. Trotzdem - oder eventuell deshalb - sei Blender schon sehr menschlich: 49 Prozent der Tester haben laut dem BBC Interaktionen mit dem Bot den Diskussionen mit echten Menschen bevorzugt. "So großartig wie die Plattform Reddit ist: Um Algorithmen zu trainieren, die auf den dort zu findenden Konversationen basieren, wird man viel Spreu vom Weizen trennen müssen", sagt KI-Forscher und -Berater Dave Coplin dem britischen Nachrichtensender.

Das hat Facebook nicht daran gehindert, den eigenen Chatbot gegen das Konkurrenzprodukt Meena von Google antreten zu lassen. In einem Test sei Blender zu 69 Prozent von Menschen bevorzugt worden. "Wir haben diesen Meilenstein mit einem neuen Chatbot erreicht, dessen Zusammensetzung verbesserte Decoding-Techniken [...] und ein Modell mit 9,4 Milliarden Parametern beinhaltet - was 3,6-mal mehr ist als das größte existierende System", sagt Facebook.

Facebook hat auch einen kurzen Ausschnitt einer Konversation zwischen Blender und einem Menschen veröffentlicht. Die Software versucht, auf Teildetails zu antworten und weiterführende Fragen zu stellen, um ein Gespräch am Laufen zu halten. Die Satzstruktur ist recht klar und simpel. Es ist daher schwer zu sagen, wie sich Blender in längeren Gesprächen verhält.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Hardware-Angebote
  1. (reduzierte Überstände, Restposten & Co.)
  2. täglich neue Deals bei Alternate.de

grutzt 08. Mai 2020

Man kann ja wohl davon ausgehen, dass relativ stupide auf Schlüsselwörter reagiert und...

Proctrap 07. Mai 2020

Das wäre sicherlich ganz amüsant

chefin 07. Mai 2020

Zwischenmenschlich heist, das wenn sich zwei verstehen und miteinander klar kommen, eine...

Inori-Senpai 07. Mai 2020

Der Charakter aus Futurama heißt doch Bender

DerDick 07. Mai 2020

Puh, ja, da hast du ein wenig viel in meinen Text reininterpretiert. Ich bin großer Fan...


Folgen Sie uns
       


    •  /