Sweetie Fox: Pornhub sperrt Werbung für Nacktbild-KI-App
Eigentlich sind Deepfake- und KI-generierte Nacktbilder auf der weltweit größten Pornografie-Plattform Pornhub nicht gestattet. Ausgerechnet die momentan beliebteste Darstellerin unter dem Namen Sweetie Fox bewarb nun eine entsprechende App in einem ihrer Videos. Das Video wurde nun von Pornhub entfernt, nachdem 404 Media berichtete(öffnet im neuen Fenster) .
Pornhub sieht Deepfake-Inhalte bereits seit 2018(öffnet im neuen Fenster) als nicht einvernehmlich mit seinen Richtlinien an und löscht sie von seiner Plattform. "Wenn Inhalte ein Produkt bewerben, das gegen unsere Nutzungsbedingungen oder Community-Richtlinien verstößt, sollten sie entfernt werden" , so ein Sprecher von Pornhub. Das Video von Sweetie Fox erzielte laut 404 Media mehr als 2 Millionen Abrufe.
Bislang ist die von Sweetie Fox beworbene KI-Anwendung nur als Webapp oder APK für Android-Geräte, aber nicht über offizielle Appstores verfügbar. Apple entfernte kürzlich drei Auszieh-Apps aus seinem App Store , allerdings ebenfalls erst nach Hinweisen von 404 Media.
Nach Recherchen des Guardian(öffnet im neuen Fenster) stammen die Entwickler der App aus Belarus und Russland - und schützen ihre eigene Identität teilweise mit KI-generierten Portraits eines angeblichen CEO.
Gesetzgeber arbeiten weltweit an Verboten von Nudify-Apps
Sogenannte Nudify-Apps generieren auf Basis einer Fotovorlage mittels KI-Technologie realistisch anmutende Nacktbilder beliebiger Personen - auch ohne deren Einverständnis. Entsprechende Apps verzeichnen seit letztem Jahr ein starkes Traffic-Wachstum .
Besondere Aufmerksamkeit erlangte die Problematik von Deepfakes und KI-generierten Bildern, als Anfang des Jahres entsprechendes Material mit dem Gesicht des Popstars Taylor Swift verbreitet wurde . Plattformen wie X taten sich mit der Entfernung der Inhalte allerdings schwer .
Eine neue Richtlinie der EU zur Bekämpfung von sexueller Gewalt soll nicht einvernehmliche Weitergabe intimer Bilder einschließlich künstlich generierter kriminalisieren . Auch in den USA liegt ein entsprechender Gesetzesentwurf(öffnet im neuen Fenster) bereits seit 2023 vor.