Facebook: An Reddit-Posts trainierter Chatbot beleidigt Menschen
Neben Google arbeitet auch Facebook an einem Chatbot, der möglichst natürlich mit echten Menschen interagieren soll. Das Programm Blender verwendet Machine Learning, um aus etwa 1,5 Milliarden Konversationen und Chats Antworten und Reaktionen zu generieren. Die Texte stammen aus Public-Domain-Quellen wie dem Community-Portal Reddit, berichtet der britische Nachrichtensender BBC(öffnet im neuen Fenster) . Dort liege ein Problem, das die Entwickler möglicherweise unterschätzt haben.
Beim Training habe die Software in langen Konversationen oft mit beleidigenden und aggressiven Worten geantwortet. Außerdem hat sie sich Fakten teilweise einfach ausgedacht und diese Fake News in Reaktionen miteingebaut. Trotzdem – oder eventuell deshalb – sei Blender schon sehr menschlich: 49 Prozent der Tester haben laut dem BBC Interaktionen mit dem Bot den Diskussionen mit echten Menschen bevorzugt. "So großartig wie die Plattform Reddit ist: Um Algorithmen zu trainieren, die auf den dort zu findenden Konversationen basieren, wird man viel Spreu vom Weizen trennen müssen" , sagt KI-Forscher und -Berater Dave Coplin dem britischen Nachrichtensender.
Das hat Facebook nicht daran gehindert, den eigenen Chatbot gegen das Konkurrenzprodukt Meena von Google antreten zu lassen. In einem Test sei Blender zu 69 Prozent von Menschen bevorzugt worden. "Wir haben diesen Meilenstein mit einem neuen Chatbot erreicht, dessen Zusammensetzung verbesserte Decoding-Techniken [...] und ein Modell mit 9,4 Milliarden Parametern beinhaltet – was 3,6-mal mehr ist als das größte existierende System" , sagt Facebook.
Facebook hat auch einen kurzen Ausschnitt einer Konversation zwischen Blender und einem Menschen veröffentlicht. Die Software versucht, auf Teildetails zu antworten und weiterführende Fragen zu stellen, um ein Gespräch am Laufen zu halten. Die Satzstruktur ist recht klar und simpel. Es ist daher schwer zu sagen, wie sich Blender in längeren Gesprächen verhält.
- Anzeige Hier geht es zu Eigene Apps programmieren bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.