KI: Google und Bing zeigen Deepfake-Pornos von Prominenten
Die großen Suchmaschinenanbieter Google und Microsoft mit Bing zeigen offenbar ohne weitere Vorkehrungen pornografische Inhalte zahlreicher prominenter Frauen, die über Deepfake-Software, also mithilfe von KI erstellt werden. Das berichtet NBC(öffnet im neuen Fenster) unter Berufung auf eigene Recherchen. Für die Suche nach 36 beispielhaft ausgewählten Prominenten liefern demnach Google für 34 und Bing für 35 Personen entsprechende Bilder weit oben in ihren Ergebnislisten, sofern die Safe-Search-Funktion deaktiviert ist.
Die Suche nach den Deepfake-Pornos sei dabei denkbar einfach, heißt es weiter. Dazu reiche es aus, sehr allgemeine Suchbegriffe wie Deepfake, Deepfake porn oder Fake nudes zum Namen der Frauen hinzuzufügen. Ein großer Teil der Links in den Suchergebnissen führe dabei zu Anbietern entsprechender Dienste oder Software, um diese Bilder zu erstellen.
Es ist zunächst wenig überraschend, dass derartige Dienste von den Suchmaschinen entsprechend stark bewertet werden und als wichtige Suchergebnisse ausgeliefert werden. Immerhin verzeichnen entsprechende KI-Dienste ein enormes Wachstum . Auch, dass die KI-Dienste selbst entsprechende Fähigkeiten bewerben, ist wenig überraschend. Erste Berichte zu derartigen Diensten gibt es seit Jahren . Schnell zeigte sich, dass die Apps eine extrem einfache Generierung der Inhalte liefern und Deepfake-Apps viel zu wenig vor einem Missbrauch zum Erstellen pornografischer Inhalte schützen .
Google und Bing bekommen das Problem nicht in den Griff
Es ist allerdings höchst fragwürdig, dass mit Google und Microsoft die zwei größten Suchmaschinenanbieter diese Technik so leicht zugänglich machen und offenbar ihrerseits kaum Vorkehrungen dagegen treffen. Die Unternehmen verweisen zwar auf ihre jeweiligen Richtlinien, die es Betroffenen schnell erlauben soll, die Inhalte aus den Suchergebnissen entfernen zu lassen. Darüber hinausgehende Arbeiten benötigen aber wohl noch mehr Zeit.
Ein Google-Sprecher sagte NBC: "Da sich dieser Bereich weiterentwickelt, sind wir dabei, umfassendere Schutzmaßnahmen zu entwickeln, wobei wir uns insbesondere darauf konzentrieren, dass bekannte Betroffene nicht mehr einzeln die Entfernung von Inhalten beantragen müssen." Auch Microsoft räumte bereits ein, mehr gegen das Phänomen unternehmen zu müssen. In einem ausreichenden Umfang geschehen ist dies bisher offenbar nicht.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.