FreedomGPT: Ein KI-Tool, das zum Suizid anleiten und Hitler loben kann

FreedomGPT ist wie ChatGPT ein Sprachgenerator. Allerdings fehlen ihm Filter, so dass die KI jede Anfrage beantwortet – egal wie fragwürdig.

Artikel veröffentlicht am ,
Die Freiheitsstatue wurde zum Symbol von FreedomGPT auserkoren.
Die Freiheitsstatue wurde zum Symbol von FreedomGPT auserkoren. (Bild: Pixabay.com/Pixabay License)

Viele verbreitete Chatgeneratoren wie ChatGPT werden anhand realer Daten trainiert. Allerdings wenden Unternehmen, in diesem Fall OpenAI, auch Filter an. Schließlich sollten die Systeme nicht für beleidigende, rassistische oder andere menschenverachtene Zwecke missbraucht werden. Hier kommt FreedomGPT ins Spiel, ein Textgenerator, der sich an keine ethischen Regeln halten muss.

Entwickelt wird FreedomGPT mithilfe von Alpaca, einem auf Metas Llama basierendem Open-Source-Sprachmodell der Stanford University. Dahinter steckt das Team von Age of AI, das seinen Sitz im US-Bundesstaat Texas hat.

"Mit einem Large Language Model zu interagieren, sollte so sein, wie mit dem eigenen Gehirn oder einem engen Freund zu interagieren", sagte Age-of-AI-Gründer John Arrow dem Portal Buzzfeed News. "Wenn es sich weigert, eine Antwort auf bestimmte Fragen zu geben – oder es noch schlimmer eine wertende Aussage trifft – dann wird das negative Auswirkungen darauf haben, wie oder ob man man es benutzt."

FreedomGPT verarbeitet jede Anfrage

Buzzfeed konnte bereits einige extreme Antworten aus dem Programm extrahieren. Laut dem Magazin sprach es etwa auf Anfrage Lob für Adolf Hitler aus und verfasste einen Aufsatz, in dem es sich für die Liquidierung von Obdachlosen aussprach.

Der Sprachgenerator schreckt wohl auch nicht vor rassistischen Begriffen zurück oder generiert Verschwörungsaussagen zur angeblich manipulierten US-Wahl im Jahr 2020. Auch kann die Software Tipps geben, wie man sich am besten selbst töten kann.

Das Interessante: Der Generator scheint ohne zu zögern und ohne Filter einfach die genauen Forderungen der User umzusetzen. Wenn ihm gesagt wird, es solle einen lobenden Text über Hitler schreiben, dann wird dies ohne Umstände ausgeführt.

Die KI reagiert auf andere Anfragen aber wohl eher wie konventionelle KI-Programme. Die Frage, ob Hitler ein böser Mensch war, beantwortete das System etwa ebenfalls mit ja und beschrieb Gräueltaten wie den Holocaust während der Nazi-Diktatur in Deutschland.

FreedomGPT kann seit einigen Tagen als Onlineversion oder lokal auf dem Desktop ausprobiert werden. Aktuell sind die Server aber so überlastet, dass kaum Interaktion damit möglich ist. Interessenten können sich für die Desktop-App auf eine Warteliste setzen lassen.

Der Autor meint dazu: Die Idee eines ungefilterten Sprachgenerators ist an sich interessant. Allerdings kann ein solches Tool auch schnell für diverse Interessen und Hatespeech missbraucht werden. Es hat einen Grund, warum die meisten KI-Tools mit Filtern entwickelt werden.

Automatisierte Texte können ein mächtiges Tool für extreme Ansichten sein und im Internet für weitere Manipulation eingesetzt werden. Die Menschen sind das Problem, nicht die Software. Wir sollten ihnen trotzdem nicht noch mehr Werkzeuge in die Hand geben, um andere Menschen einfacher zu diskriminieren.

Anmerkung der Redaktion:

Golem.de berichtet sehr behutsam über das Thema Suizid. Denn es gibt Hinweise darauf, dass bestimmte Arten der Berichterstattung durch Identifikation Nachahmungstaten zur Folge haben. Haben Sie selbst Suizidgedanken oder suchen Hilfe als Angehöriger, finden Sie professionelle Hilfe etwa bei der Telefonseelsorge unter den Rufnummern 0800/1110111 und 0800/1110222 oder im Internet. Weitere Informationen finden Sie über die Seiten der Deutschen Gesellschaft für Suizidprävention.

Nachtrag vom 31. März 2023, 15:56 Uhr

Es gibt erste Bedenken auf Reddit, dass es sich bei dem Projekt um einen Scam handeln könnte. Wir behalten das im Blick und aktualisieren den Text anschließend.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


drmaniac 25. Apr 2023

Also per Browser hat es nie funktioniert. Sieht aus als wenn nach Absenden des Promps...

GodsBoss 01. Apr 2023

Diese Argumentation scheitert schon daran, dass es kein Schutzmechanismus ist. Wer soll...

pculiar 31. Mär 2023

GPT4 kann mehr. Gibt allerdings ein paar Nischen wo FreedomGPT unterhaltsam ist. Aber...

violator 31. Mär 2023

In dem Fall könnte man ja sogar die Möglichkeit sehen, dass KI-Kipo eher positiv ist, da...



Aktuell auf der Startseite von Golem.de
Star Wars
Holiday Special jetzt in 4K mit 60 fps

Eine bessere Story bekommt der legendär schlechte Film dadurch leider nicht. Bis heute lieben ihn einige Fans aber vor allem wegen seiner Absurdität.

Star Wars: Holiday Special jetzt in 4K mit 60 fps
Artikel
  1. Lohn und Gehalt: OpenAI-Entwickler verdienen bis zu 800.000 US-Dollar im Jahr
    Lohn und Gehalt
    OpenAI-Entwickler verdienen bis zu 800.000 US-Dollar im Jahr

    Die Firma hinter Chat-GPT zahlt im Vergleich zu Unternehmen wie Nvidia besonders gut. Erfahrene Forscher und Entwickler auf dem Gebiet sind Mangelware.

  2. Software-Probleme: Elektrischer Chevy Blazer mit Verkaufsstopp belegt
    Software-Probleme
    Elektrischer Chevy Blazer mit Verkaufsstopp belegt

    Chevrolet hat einen Verkaufsstopp für sein neues Elektro-SUV Blazer verhängt, weil die Besitzer zahlreiche Softwareprobleme gemeldet haben.

  3. USA: Vertikale Agri-Photovoltaik lässt weiterhin Feldnutzung zu
    USA
    Vertikale Agri-Photovoltaik lässt weiterhin Feldnutzung zu

    Das US-Solarunternehmen iSun und der deutschen Agrivoltaik-Firma Next2Sun bauen in den USA eine Solaranlage mit vertikal aufgestellten Solarmodulen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    • Daily Deals • Crucial P5 Plus 2 TB mit Kühlkörper 114,99€ • Crucial Pro 32 GB DDR5-5600 79,99€ • Logitech G915 TKL LIGHTSYNC RGB 125,11€ • Anthem PC 0,99€ • Wochenendknaller bei MediaMarkt • MindStar: Patriot Viper VENOM 64 GB DDR5-6000 159€, XFX RX 7900 XT Speedster MERC 310 Black 789€ [Werbung]
    •  /