FreedomGPT: Ein KI-Tool, das zum Suizid anleiten und Hitler loben kann

FreedomGPT ist wie ChatGPT ein Sprachgenerator. Allerdings fehlen ihm Filter, so dass die KI jede Anfrage beantwortet – egal wie fragwürdig.

Artikel veröffentlicht am 30. März 2023, 15:19 Uhr, Oliver Nickel

Die Freiheitsstatue wurde zum Symbol von FreedomGPT auserkoren. (Bild: Pixabay.com/Pixabay License)

Viele verbreitete Chatgeneratoren wie ChatGPT werden anhand realer Daten trainiert. Allerdings wenden Unternehmen, in diesem Fall OpenAI, auch Filter an. Schließlich sollten die Systeme nicht für beleidigende, rassistische oder andere menschenverachtene Zwecke missbraucht werden. Hier kommt FreedomGPT ins Spiel, ein Textgenerator, der sich an keine ethischen Regeln halten muss.

Entwickelt wird FreedomGPT mithilfe von Alpaca, einem auf Metas Llama basierendem Open-Source-Sprachmodell der Stanford University. Dahinter steckt das Team von Age of AI, das seinen Sitz im US-Bundesstaat Texas hat.

"Mit einem Large Language Model zu interagieren, sollte so sein, wie mit dem eigenen Gehirn oder einem engen Freund zu interagieren", sagte Age-of-AI-Gründer John Arrow dem Portal Buzzfeed News. "Wenn es sich weigert, eine Antwort auf bestimmte Fragen zu geben – oder es noch schlimmer eine wertende Aussage trifft – dann wird das negative Auswirkungen darauf haben, wie oder ob man man es benutzt."

FreedomGPT verarbeitet jede Anfrage

Buzzfeed konnte bereits einige extreme Antworten aus dem Programm extrahieren. Laut dem Magazin sprach es etwa auf Anfrage Lob für Adolf Hitler aus und verfasste einen Aufsatz, in dem es sich für die Liquidierung von Obdachlosen aussprach.

Der Sprachgenerator schreckt wohl auch nicht vor rassistischen Begriffen zurück oder generiert Verschwörungsaussagen zur angeblich manipulierten US-Wahl im Jahr 2020. Auch kann die Software Tipps geben, wie man sich am besten selbst töten kann.

Das Interessante: Der Generator scheint ohne zu zögern und ohne Filter einfach die genauen Forderungen der User umzusetzen. Wenn ihm gesagt wird, es solle einen lobenden Text über Hitler schreiben, dann wird dies ohne Umstände ausgeführt.

Die KI reagiert auf andere Anfragen aber wohl eher wie konventionelle KI-Programme. Die Frage, ob Hitler ein böser Mensch war, beantwortete das System etwa ebenfalls mit ja und beschrieb Gräueltaten wie den Holocaust während der Nazi-Diktatur in Deutschland.

FreedomGPT kann seit einigen Tagen als Onlineversion oder lokal auf dem Desktop ausprobiert werden. Aktuell sind die Server aber so überlastet, dass kaum Interaktion damit möglich ist. Interessenten können sich für die Desktop-App auf eine Warteliste setzen lassen.

Der Autor meint dazu: Die Idee eines ungefilterten Sprachgenerators ist an sich interessant. Allerdings kann ein solches Tool auch schnell für diverse Interessen und Hatespeech missbraucht werden. Es hat einen Grund, warum die meisten KI-Tools mit Filtern entwickelt werden.

Automatisierte Texte können ein mächtiges Tool für extreme Ansichten sein und im Internet für weitere Manipulation eingesetzt werden. Die Menschen sind das Problem, nicht die Software. Wir sollten ihnen trotzdem nicht noch mehr Werkzeuge in die Hand geben, um andere Menschen einfacher zu diskriminieren.

Anmerkung der Redaktion:

Golem.de berichtet sehr behutsam über das Thema Suizid. Denn es gibt Hinweise darauf, dass bestimmte Arten der Berichterstattung durch Identifikation Nachahmungstaten zur Folge haben. Haben Sie selbst Suizidgedanken oder suchen Hilfe als Angehöriger, finden Sie professionelle Hilfe etwa bei der Telefonseelsorge unter den Rufnummern 0800/1110111 und 0800/1110222 oder im Internet. Weitere Informationen finden Sie über die Seiten der Deutschen Gesellschaft für Suizidprävention.

Nachtrag vom 31. März 2023, 15:56 Uhr

Es gibt erste Bedenken auf Reddit, dass es sich bei dem Projekt um einen Scam handeln könnte. Wir behalten das im Blick und aktualisieren den Text anschließend.