Erotik, Pornos und NSFW: Unstable Diffusion trainiert KI für pornografische Bilder
Viele Hersteller von KI-Systemen unterbinden deren Nutzung für pornografische Inhalte per Vertrag. Nicht so die Betreiber der Software Stable Diffusion(öffnet im neuen Fenster) , die mit solchen Themen liberaler umgehen. Auf Basis des Stable-Diffusion-Modells, welches aus Textparametern Kunstwerke und Bilder generieren kann, hat sich eine kleine Community namens Unstable Diffusion gebildet. Ihr Ziel: die KI für erotische und pornografische Inhalte zu personalisieren.
Das scheint relativ erfolgreich zu sein. Auf dem offiziellen Discord-Server der Organisation(öffnet im neuen Fenster) sind bereits etwa 50.000 Mitglieder zu finden. Diese können in mehreren Channels diverse Bots nutzen, um sich mit der angepassten KI Nacktbilder oder pornografische Motive nach ihren Parametern zu erstellen.
Meist handelt es sich dabei um Digital Art im Anime-Stil, der auch mit Stilen aus Games und anderen Medien gemischt wird. Auch bedient Unstable Diffusion durch Parameter diverse Kinks und Fetische. So gibt es auf Discord etwa einen Channel für NSFW-Bilder, die Fantasiewesen, Furries oder nichtmenschliche Kreaturen zeigen. Meist werden aber Abbilder des weiblichen Körpers generiert - mit diversen Anpassungen.
"In nur zwei Monaten ist unser Team auf über 13 Personen angewachsen, zusätzlich zu vielen Beratern und freiwilligen Community-Moderatoren" , sagte Unstable-Diffusion-Admin Arman Chaudry dem Magazin Techcrunch(öffnet im neuen Fenster) . Das Angebot soll eine Alternative zu 4chan sein, das als eine der wenigen Quellen entsprechenden Content produziert. "Wir hoffen, dass wir eine vernünftigere Community aufbauen können, die auch wirklich mit der KI-Community kooperieren kann" , sagte Discord-Admin AshleyEvelyn.
Die Community trainiert den Bildgenerator
Angefangen hat Unstable Diffusion wie viele dieser Communites auf Reddit. Allerdings verstießen die Inhalte gegen die Richtlinien der Plattform. Die Community stellte deshalb auf Discord um. Den Server betreibt das Team über Einnahmen per Patreon(öffnet im neuen Fenster) . Knapp 290 Unterstützer geben insgesamt 3.454 Euro monatlich für das Projekt her. Mittlerweile hat sich darum also ein kleines Geschäft aufgebaut.
Die KI Stable Diffusion wird für die eigenen Szenarien ausgebaut. Die Software kann in ihrer Urform etwa nackte Menschen kaum zuverlässig generieren. Gerade Körperregionen, die normalerweise mit Kleidung bedeckt sind, etwa primäre und sekundäre Geschlechtsmerkmale, sind eine Unbekannte. Das liegt daran, dass nur etwa 2,9 Prozent der Trainingsdaten(öffnet im neuen Fenster) nackte Personen zeigen.
Ein Team aus Freiwilligen kategorisierte deshalb für Unstable Diffusion viele weitere Bilder mit NSFW-Inhalten aus diversen Quellen des Internets. Diese Arbeit hält weiter an und richtet sich nach einigen Grundprinzipien. So werden keine Bilder geduldet, die als Pädophilie eingestuft werden können. Auch sollen keine Gesichter prominenter Personen einfließen.
Techcrunch und von der Plattform zitierte Experten merken an, dass die manuelle Moderation einer kleinen Community allerdings die Vorurteile der KI verstärken könne und etwa bestimmte Pornoklischees - beispielsweise Sex zwischen zwei weißen heterosexuellen Menschen - repliziere.
Weniger im Internet verbreitete Erotik- und Pornodarstellungen, etwa Homosexualität, Bisexualität, trans und nichtbinäre Körperlichkeit könnten dabei zu kurz kommen. So werden in einem Sub-Channel des Discord-Servers, genannt Genderqueer-only, in erster Linie weibliche Schönheitsideale mit Penisen gepostet. Generell lassen sich Deepfake-Systeme schnell für pornografische Zwecke entfremden, wie eine Recherche von Netzpolitik.org und dem Spiegel ergeben hat.