KI-Bilderzeugung: Googles Bildersuche zeigt Fake-Bikini-Bilder von Promis

Neben unechten Bikinifotos von Promis soll die Google -Suche auch KI -Bilder von Stars als Kinder zeigen. Wie Google das Problem in den Griff kriegen soll, ist unklar.

17. Juni 2024 um 17:14 Uhr / Tobias Költzsch

Google hat KI-generierte Bilder in der Bildersuche offenbar nicht im Griff. Bild: Tobias Költzsch/Golem.de

Google zeigt bei normalen Bildersuchen ungefragt und ungekennzeichnet KI-generierte Bilder von Promis. Die Fotos stellen vor allem weibliche Prominente in Badeanzügen dar, teilweise auch als Kinder. Das berichtet die Investigativwebseite 404 Media .

Eine einfache Suche nach dem Namen einer Prominenten in Verbindung mit swimsuit, dem englischen Wort für Badeanzug, fördert teilweise relativ weit oben in den Suchergebnissen KI-generierte Inhalte zutage. Diese sind nicht als KI-Inhalte gekennzeichnet und verweisen oft auf Webseiten, bei denen Nutzer Bilder hochladen können.

404 Media hat zudem zahlreiche sehr problematische KI-generierte Bilder durch einfache und harmlose Suchen gefunden. Diese stammen teilweise von Webseiten, auf denen Nutzer KI-generierte Fotos von Kindern hochladen können, auch von Promis im Kindesalter. Auf einigen der bei Google verlinkten Webseiten sind auch KI-generierte, falsche Nacktaufnahmen zu finden.

Google kann aktuell offenbar nicht viel machen

Google konnte nicht erklären, wieso die Bilder weit oben in der normalen Suche landen. Aktuell sind die Hintergründe unklar, es scheint aber so zu sein, dass die Aufnahmen wie normale Fotos in die Suche gelangten. In der Regel sind sie mit den Namen der Prominenten und weiteren Suchbegriffen getaggt – aber nicht mit dem Kürzel KI.

"Unsere automatisierten Systeme zielen darauf ab, die qualitativ hochwertigsten und relevantesten Bilder für Milliarden von Anfragen, die wir täglich erhalten, zu zeigen" , erklärt ein Google-Sprecher. "Angesichts des Umfangs des offenen Webs kann es vorkommen, dass unsere Rankingsysteme relevante Webinhalte anzeigen, die leider nicht unseren Qualitätsstandards entsprechen."

Einige der von 404 Media gezeigten Bilder sind relativ schnell als KI-generiert erkennbar, vor allem, wenn sie mit nicht sonderlich fortschrittlich gemachten Modellen erstellt wurden und entsprechende Fehler aufweisen. Dennoch scheint Google das Material nicht als KI-generiert zu flaggen. Die von 404 Media gemeldeten Bilder sind weiterhin in der Google-Suche verfügbar und wurden nicht entfernt.