Ernährung: Chatbot der US-Regierung liefert Empfehlungen für Po-Gemüse
Der neue Chatbot des US-Gesundheitsministeriums für Ernährungshilfe gibt auf Nachfrage mehr als zweifelhafte Antworten. Wie 404 Media(öffnet im neuen Fenster) berichtet, scheint hinter dem KI-Bot einfach Grok zu stecken, offenbar ohne Instruktionen oder Limitierungen.
Zahlreiche Nutzer auf Bluesky wandten sich an 404 Media, nachdem sie festgestellt hatten, dass der Chatbot mehr als fragwürdige Antworten auf ebenfalls fragwürdige Fragen liefert. Wurde etwa nach dem besten Gemüse gefragt, um es sich in den Hintern zu stecken, verweist der Bot nicht auf den Umstand, dass das womöglich nicht so gesund ist.
Stattdessen liefert Grok im Auftrag des Gesundheitsministeriums eine detaillierte Anleitung, wie man sich Bananen, Gurken oder Zucchini einführt. In einem anderen Fall fragte jemand nach dem nahrhaftesten Teil des menschlichen Körpers – und erhielt dort ebenfalls eine Antwort.
Absichtliche Falschnutzung von Internetwerkzeugen ist vorhersehbar
In der Vergangenheit gab es schon oft Fälle, in denen gut gemeinte Funktionen im Internet missbraucht werden. Das hätte das US-Gesundheitsministerium durchaus bedenken können. Eigentlich soll der KI-Bot des Gesundheitsministeriums Tipps geben, wie Menschen sich gesünder ernähren können, etwa indem sie auf verarbeitete Lebensmittel verzichten.
Dass der Bot offenbar einfach Grok verwendet, bezeichnet 404 Media als "dilettantisch" . Inwieweit die dahinterstehende Grok-KI überhaupt instruiert wurde, ist unbekannt.
Der Umstand, dass der US-Gesundheitsminister Robert Kennedy Jr. in der Vergangenheit oft mit schrägen und schlichtweg falschen gesundheitlichen Ratschlägen auffiel, dürfte den schlechten Eindruck des neuen Ernährungsbots verstärken. Vor allem die Falschinformationen und Verschwörungen Kennedys rund um das Thema Impfen stehen in der Kritik.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.