Bei medizinischen Fragen: Googles KI-Zusammenfassung zitiert am häufigsten Youtube
Die KI-Zusammenfassung der Google-Suche verweist bei Antworten auf Gesundheitsfragen dreimal häufiger auf Inhalte der Videoplattform Youtube statt auf medizinische Webseiten. Zu diesem Ergebnis kommen Svitlana Tomko und Yulia Deda in einer Untersuchung der Plattform für Suchmaschinenoptimierung (Search Engine Optimization, SEO) SE Rankings(öffnet im neuen Fenster) .
Für die Untersuchung wurden die Antworten auf mehr als 50.000 Suchanfragen zu Gesundheitsthemen analysiert. Dabei wurde festgestellt, dass Youtube mit einem Anteil von 4,43 Prozent die am häufigsten angegebene Quelle von Zitaten der KI-Zusammenfassung sei.
Weitere 65 Prozent der Quellen stammen der Untersuchung zufolge zudem von Webseiten, die keine formelle medizinische Überprüfung oder evidenzbasierte Sicherheitsvorkehrungen ihrer Inhalte haben. Etwa 34 Prozent der KI-Zitate kommen aus vertrauenswürdigen medizinischen Quellen und weniger als ein Prozent der Inhalte stammt von staatlichen Gesundheitseinrichtungen und akademischen Zeitschriften.
Untersuchung laut Google nicht auf andere Länder übertragbar
Das sei relevant, da Youtube eine allgemeine Videoplattform ist, auf der jeder eigene Inhalte hochladen könne, schreiben die Autorinnen der Untersuchung. Neben Ärzten und Kanälen von medizinischen Einrichtungen könnten dies auch Wellness-Influencer, Life-Coaches oder einfach Content-Creator ohne jegliche medizinische Ausbildung sein, heißt es weiter.
Dem Guardian(öffnet im neuen Fenster) erklärte Google, dass die KI-Übersichten darauf ausgelegt seien, qualitativ hochwertige Inhalte aus seriösen Quellen zu präsentieren und eine Vielzahl anerkannter Gesundheitsbehörden und approbierte Mediziner ihre Inhalte auf Youtube einstellten. Da die Untersuchung in Deutschland durchgeführt worden sei, seien die Ergebnisse zudem nicht auf andere Länder übertragbar, so Google.
Lebensbedrohliche Hinweise in KI-Zusammenfassung
Tomko und Deda schildern zwei Fälle, in denen die untersuchte KI-Zusammenfassung lebensbedrohliche Hinweise ausgegeben haben soll. Einem Patienten mit Bauchspeicheldrüsenkrebs wurde zum Beispiel empfohlen, fettreiche Lebensmittel zu meiden, was von Medizinern als potenziell schädlich betrachtet wird, da es die Patienten schwächen und mögliche Behandlungen behindern kann. In einem weiteren Fall gab das KI-Tool falsche Informationen zu Ergebnissen von Leberbluttests aus, die dazu führen könnten, dass sich Menschen mit einer schweren Lebererkrankung für gesund halten.
Google bezeichnet die KI-Zusammenfassungen der Sucherergebnisse immer wieder als sehr beliebt. Besonders zu Beginn gab die KI allerdings sehr eigenwillige und teils gesundheitsgefährdende Antworten aus. Mit einem weiteren KI-Feature erregt derzeit Google Discover Ärger unter seinen Nutzern, indem es falsche KI-generierte Überschriften zu News-Beiträgen erstellt.