OpenAI: GPT-3 kann Lyrik und bekommt gute Dialoge
Das für seine teils riesigen Sprachmodelle bekannte Start-up OpenAI hat mit ChatGPT ein Modell vorgestellt(öffnet im neuen Fenster) , das explizit auf eine Interaktion und eben Chats angepasst worden ist. Dazu heißt es: "Das Dialogformat ermöglicht es ChatGPT, Folgefragen zu beantworten, seine Fehler einzugestehen, falsche Prämissen infrage zu stellen und unangemessene Anfragen abzulehnen."
Das größte Problem mit KI-Chatbots bisher ist vor allem, dass sich diese leicht manipulieren lassen . Die Spannbreite reicht dabei von Angriffen auf das Modell selbst, um etwa eigentlich nicht vorgesehene Informationen zu erlangen, über schlicht falsche oder obskure Antworten auf gestellte Fragen hin bis zu rassistischen und anderen unangemessenen Antworten.
Bekannt geworden ist das Phänomen etwa mit Microsofts Chatbot Tay , der schon im Jahr 2016 mit rassistischen Ausfällen auffiel . Trotz zahlreicher Vorkehrungen erging es Meta erst kürzlich ähnlich. Mit dem Blenderbot 3(öffnet im neuen Fenster) traf das Unternehmen entsprechende Vorkehrungen, die halfen aber wohl nur wenig(öffnet im neuen Fenster) . Das erst im November von Meta vorgestellte Sprachmodell Galactica verbreitet letztlich auch Falschinformationen und blieb deshalb nur drei Tagen online(öffnet im neuen Fenster) .
ChatGPT mit beeindruckenden Ergebnissen und Grenzen
Auch OpenAI benennt diese Grenzen für ChatGPT. Das Modell gebe "manchmal plausibel klingende, aber falsche oder unsinnige Antworten" . Auch reagiere ChatGPT noch auf die konkrete Art und Weise einer gestellten Frage: "Beispielsweise kann das Modell bei einer gegebenen Formulierung einer Frage behaupten, die Antwort nicht zu kennen, aber bei einer leichten Umformulierung richtig antworten."
Zwar gibt ChatGPT immer noch zahlreiche falsche und auch ausgedachte Antworten. Darüber hinaus scheint ChatGPT ersten Nutzerberichten zufolge aber überraschend gut zu funktionieren. So werden unsinnige Fragen direkt erkannt(öffnet im neuen Fenster) , statt diese irgendwie zu beantworten. Durch eingebaute Erinnerungsfunktionen fühle sich die Konversation flüssig an(öffnet im neuen Fenster) und ChatGPT versteht offenbar leichte(öffnet im neuen Fenster) oder gar(öffnet im neuen Fenster) komplexe(öffnet im neuen Fenster) Programmierungsaufgaben(öffnet im neuen Fenster) .
GPT-3 bekommt Modell-Aktualisierung
Wie beschrieben, ist das Modell von ChatGPT speziell auf das Dialogverhalten von Chatbots trainiert worden. Die zusätzlich dazu klassische Texterzeugung von OpenAI, GPT-3, hat das Team mit dem Modell Davinci-text-003 aber ebenfalls vor kurzem aktualisiert, wie Ars Technica berichtet(öffnet im neuen Fenster) .
Demnach ist GPT-3 nun in der Lage, komplexere Anweisungen zu verarbeiten und darüber hinaus auch Inhalte einer längeren Form zu generieren. Darüber hinaus kann das neue Modell wohl auch reimen und so Lyrik oder Songtexte erstellen.