Reddit: KI-generierte Nacktbilder täuschen zahlende Kunden

Auf Reddit sind Nacktfotos von imaginären Frauen verkauft worden, die mit einer generativen KI erzeugt wurden. Die Käufer bemerkten den Schwindel wohl nicht.

Artikel veröffentlicht am 11. April 2023, 19:01 Uhr, Andreas Donath

Symbolbild (Bild: Pexels/CC0 1.0)

Mit dem Aufkommen neuer KI-Techniken werden sogar imaginäre Frauen zu einer Einnahmequelle für einige Reddit-Benutzer, wie das Rolling-Stone-Magazin berichtet.

Claudia, eine 19-jährige Frau mit auffallend blaugrünen Augen, zarten Gesichtszügen und einer Langhaarfrisur, postet Bilder von sich auf verschiedenen Subreddits, darunter r/faces, r/normalnudes und r/amihot. Allerdings gibt es einen Haken: Claudia ist nicht echt. Sie ist die Kreation von zwei Informatikstudenten. Diese haben ein KI-Programm namens Stable Diffusion verwendet, um realistisch aussehende Fotos zu generieren, die nur auf einer Texteingabe beruhen.

Der Reddit-Account war ursprünglich als Scherz gedacht, aber das Duo verdiente mit dem Verkauf von Claudias Nacktfotos rund 100 US-Dollar, bis andere Redditors das Konto meldeten. Sie hätten nie gedacht, dass ihre KI-Kreation so viel Anklang finden würde, heißt es in dem Bericht. Den Käufern wurde offenbar erfolgreich vorgegaukelt, dass es sich um eine echte Dame handele, die Bilder von sich verkauft.

Claudia ist zwar fiktiv, aber die Milliarden von Bildern, die zum Trainieren von KI-Modellen verwendet werden, stammen von echten Menschen. Die meisten von ihnen haben wahrscheinlich nicht zugestimmt, dass ihr Konterfei auf diese Weise verwendet wird. Dies wirft ethische Bedenken auf, da die Möglichkeit besteht, dass diese KI-Modelle die Bilder, auf denen sie trainiert wurden, reproduzieren können.

Keine Gefahr für die Branche?

Langfristig könnten jedoch KI-Erwachsene reale Personen verdrängen. Diejenigen, die KI-Pornos erstellen, sehen die zukünftige Popularität von Modellen wie Claudia als unvermeidlich. "KI-Pornos werden nur noch beliebter werden", sagten die Informatiker, die Claudia entwickelt haben, dem Magazin Rolling Stone.

Viele Hersteller von KI-Systemen unterbinden deren Nutzung für pornografische Inhalte, doch es gibt auch Ausnahmen. Die Community Unstable Diffusion nutzt die KI-Software Stable Diffusion, um erotische und pornografische Bilder zu generieren. Dabei werden diverse Parameter und Fetische der Mitglieder berücksichtigt. Die Community ist auf dem Discord-Server aktiv und finanziert sich über Patreon. Experten weisen darauf hin, dass die manuelle Moderation der Community die Vorurteile der KI verstärken könne und bestimmte Pornoklischees repliziere.