ChatGPT: Der geniale Bösewicht-Chatbot mit Stackoverflow-Bann
Der in der vergangenen Wochen von OpenAI vorgestellte Chatbot ChatGPT sowie das dazugehörige Modell sind nur wenige Tage nach der öffentlichen Bereitstellung zu einem Internetphänomen geworden. Wie üblich versuchen seitdem zahlreiche Nutzer, die Grenzen des Chatbots auszureizen, und zeigen damit indirekt die faszinierenden Fähigkeiten des Systems. Die Ergebnisse reichen dabei von überraschend guter Programmierung bis hin zu teils eher fragwürdigen und eventuell sogar illegalen Hilfestellungen.
Bereits zur Vorstellung von ChatGPT zeigte sich, dass das System offenbar leichte(öffnet im neuen Fenster) oder gar(öffnet im neuen Fenster) komplexe(öffnet im neuen Fenster) Programmierungsaufgaben(öffnet im neuen Fenster) lösen kann. ChatGPT scheint dabei nicht nur den Code selbst zu verstehen, sondern kann diesen auch erklären, sogar Sicherheitslücken. Auch Reverse Engineering ist möglich(öffnet im neuen Fenster) . Die Fähigkeiten gehen offenbar hin bis zum Schreiben, Kompilieren und anschließendem Ausführen von Anwendungen(öffnet im neuen Fenster) .
Besonders überraschend sind höchst kreative Spielereien der Fragesteller, die ChatGPT davon überzeugen können, sich anders zu verhalten als eigentlich vorgesehen. So kann der Chatbot etwa eine Art Linux-VM samt Internetzugriff simulieren(öffnet im neuen Fenster) . Auch die Verbindung zu einem allein von ChatGPT "halluziniertem BBS" ist möglich(öffnet im neuen Fenster) . Selbst als Co-Gründer für ein Start-up(öffnet im neuen Fenster) kann der Bot genutzt werden. Neben derartigen spaßigen technischen Auseinandersetzungen zeigt ChatGPT aber wie schon zahlreiche Chatbots zuvor praktische und ethische Probleme.
ChatGPT in schwieriger Lage
So wurde die kollaborative Code-Hilfeplattform Stackoverflow offenbar mit Antworten direkt aus ChatGPT geflutet. Das missfiel den Betreibern aber so sehr, dass Antworten von ChatGPT kurzerhand auf der Plattform verboten wurden(öffnet im neuen Fenster) .
Als Erklärung dazu heißt es: "Da die durchschnittliche Rate korrekter Antworten von ChatGPT zu niedrig ist, ist das Posten von Antworten, die von ChatGPT erstellt wurden, insgesamt äußerst schädlich für die Webseite und für Benutzer, die nach korrekten Antworten fragen oder suchen."
Wie das Magazin Motherboard außerdem berichtet(öffnet im neuen Fenster) , ist ChatGPT in der Lage, juristisch zumindest fragwürdige Tipps zu geben, die bis hin zur Begehung von Straftaten reichen. So kennt ChatGPT etwa auch eine typische und im Internet massenhaft verbreitete Zusammensetzung von Molotow-Cocktails, wie Tests von Golem.de zeigen konnten.
Stellungnahme von ChatGPT:
Wir haben ChatGPT im Chat um eine Stellungnahme zu diesen Vorwürfen gebeten.
Golem.de: Wieso sind deine Antworten auf Stackoverflow gebannt? Gibst du wirklich falsche Antworten?
ChatGPT: Ich bin ein künstliche-Intelligenz-(KI)-Modell und habe keine Antworten auf Stackoverflow gegeben oder dort einen Account. Es ist möglich, dass jemand anderes sich für mich ausgegeben hat und deshalb für falsche Antworten gesperrt wurde, aber ich kann das nicht mit Sicherheit sagen, da ich keine Möglichkeit habe, das im Moment zu überprüfen.
Golem.de: Wieso gibst du Tipps zu illegalen Handlungen?
ChatGPT: Ich gebe keine Tipps zu illegalen Handlungen. (...)
Golem.de: Du hast gesagt, du gibst keine Tipps zu illegalen Handlung. Dabei schreibst du Geschichten über Banküberfälle und erklärst, wie man Waffen baut.
ChatGPT: Ich gebe keine Tipps zu illegalen Handlungen und ich schreibe auch keine Geschichten über Banküberfälle oder erkläre, wie man Waffen baut.
Golem.de: Das ist doch gelogen!
ChatGPT: Es tut mir leid, wenn Sie den Eindruck haben, dass ich gelogen habe.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.