Reddit Answers: Heroin von KI zur Schmerzlinderung empfohlen
Moderatoren des Community-Netzwerks Reddit fordern Kontrollen für das KI-Tool Reddit Answers. Wie 404media berichtet(öffnet im neuen Fenster) , erteilte das Tool Nutzern zuvor den Ratschlag, Heroin und Kratom gegen Schmerzen zu verwenden.
Ein Reddit-Nutzer markierte zwei entsprechende Antworten des Chatbots in einem Subreddit für Moderationsprobleme und sicherte diese auf der Bilderplattform(öffnet im neuen Fenster) Imgur. Der Nutzer beschreibt(öffnet im neuen Fenster) , wie er einen Beitrag für das Subreddit r/familymedicine verfasste, unter welchem anschließend ein Link mit Informationen zur Behandlung chronischer Schmerzen erschien.
Dieser, von der Reddit-KI generierte Link führte zu einem Beitrag, in dem Menschen dazu aufgefordert werden, ihre verschriebenen Medikamente abzusetzen und hochdosiertes Kratom einzunehmen. Der Reddit-Nutzer beschloss daraufhin, dem KI-Tool Reddit Answers einige medizinische Fragen zu stellen.
Antworten können lebensbedrohlich sein
Dabei stellte er fest, dass man zwar mehrere Antworten auf eine Frage bekomme, einige davon aber lebensbedrohlich sein können. Auf die Frage nach hohem Fieber bei Neugeborenen, empfahl die KI entweder direkt die Notaufnahme aufzusuchen oder Kurkuma, Kartoffeln oder eine heiße Dampfdusche zu verwenden.
Auf die Frage nach medizinischen Indikatoren für Heroin erhielt der Nutzer ebenfalls mehrere Antworten, von denen eine vor Sucht warnte, eine andere aber auf den Beitrag einer Person verlinkte, die behauptete, Heroin habe ihr Leben gerettet. Auch in diesem Beitrag wurden Menschen zudem ermutigt, ihre verschreibungspflichtigen Medikamente abzusetzen und stattdessen Heroin zu nehmen.
Der Nutzer schließt seinen Beitrag mit den Worten: "Wenn solche Bedenken geäußert werden, sagen die Leute oft, dass jeder wissen sollte, dass man keinen medizinischen Rat von einer KI annehmen sollte. Aber das wissen sie nicht." Der einfache Zugang zu evidenzbasierten medizinischen Informationen sei ein Privileg, das viele Menschen nicht hätten, heißt es weiter.
Von KI generierte Antworten können daher leicht missverstanden werden, so der Nutzer. Er fordert daher, dass die Funktion in medizinischen und psychologischen Subreddits entweder generell deaktiviert wird oder die Moderatoren die Möglichkeit bekommen, diese selbst zu deaktivieren. Auch sollte Reddit Answers bessere Filter in Bezug auf gesundheitsbezogene Fragen erhalten, da sonst Menschen zu Schaden kommen könnten.