Make America Healthy Again: KI der US-Arzneimittelbehörde erfindet Studien
Das KI-Tool Elsa der US-amerikanischen Lebensmittel- und Arzneiaufsichtsbehörde FDA (Food and Drug Administration) erfindet Studien und stellt Forschungsergebnisse falsch dar. Wie CNN in Gesprächen mit aktuellen und ehemaligen Mitarbeitern der FDA erfuhr(öffnet im neuen Fenster) , widersprechen deren Erfahrungen der Außendarstellung, dass Elsa erfolgreich eingesetzt werde.
Auf die Frage etwa, wie viele Medikamente einer bestimmten Klasse für Kinder zugelassen seien, liefere die KI falsche Antworten und erfinde nicht existierende Studien, berichteten die FDA-Mitarbeiter. "Es halluziniert selbstbewusst" , sagte einer der Angestellten zu CNN und ergänzte: "Alles, was man nicht doppelt überprüfen kann, ist unzuverlässig."
Für das Erstellen von Besprechungsnotizen und Zusammenfassungen sei Elsa zwar hilfreich, so die FDA-Angestellten. CNN merkte dazu aber an, dass sich die Richtigkeit einer Zusammenfassung nur überprüfen lasse, indem man den zugrunde liegenden Bericht lese.
Geschwindigkeit von Arzneimittelzulassungen erhöhen
Bereits im Mai 2025 fiel ein Bericht der Kommission Make America Healthy Again von US-Gesundheitsminister Robert F. Kennedy Jr. auf, der eine große Anzahl an gefälschten Zitaten aus Studien enthielt. Eine Analyse ergab, dass mindestens sieben der zitierten Studien gar nicht existierten und viele weitere die Aussagen einer Studie falsch wiedergaben.
Im Juni 2025 sagte Kennedy vor einem Ausschuss des US-Repräsentantenhauses, dass KI bei der FDA eingesetzt und die Geschwindigkeit von Arzneimittelzulassungen erhöhen werde.
Marty Makary, Kommissar der FDA, erklärte gegenüber CNN, dass die meisten Mitarbeiter Elsa lediglich für organisatorische Aufgaben verwendeten. Jeremy Walsh, Leiter für KI bei der FDA, gab allerdings zu, dass Elsa "möglicherweise halluzinieren" könne. Das sei aber nicht anders als bei anderen KI-Chatbots , ergänzte er.