NSFW: Bilderzeugung erklärt Porno-Bilderkennung

Yahoo sucht mit maschinellem Lernen automatisch nach pornografischen Inhalten. Das zugrundeliegende Modell kann aber auch zur Bilderzeugung genutzt werden, was einerseits das Modell erklärt und andererseits interessante Ergebnisse liefert.

Artikel veröffentlicht am ,
Die etwas andere Art der Bilderzeugung kann sehr kreative Ergebnisse liefern.
Die etwas andere Art der Bilderzeugung kann sehr kreative Ergebnisse liefern. (Bild: Gabriel Goh)

Bei vielen Einsatzgebieten des maschinellen Lernens werden oft sogenannte neuronale Netze eingesetzt, etwa bei der automatischen Bilderkennung. Um zu verstehen, wie diese Netze funktionieren, kann deren Arbeitsweise im übertragenen Sinne umgedreht werden, um Bilder aus dem zugrundeliegenden Modell zu erzeugen. Der Promotionsstudent Gabriel Goh erläutert diese Vorgehensweise sehr anschaulich mit der Bilderkennung von Yahoo zum Auffinden pornografischer Inhalte.

Stellenmarkt
  1. IT-Systemadministrator (m/w/d)
    Universitätsklinikum Erlangen, Erlangen
  2. Softwareentwickler (m/w/d) Java / Scala Backend
    consistec Engineering & Consulting GmbH, Saarbrücken
Detailsuche

Die Implementierung zu Letzterem hat das Engineering-Team von Yahoo vor drei Wochen als Open Source unter dem Namen Open NSFW (Not Suitable for Work) auf Github veröffentlicht. Dieses Modell weist dabei den eingegebenen Bildern Werte zwischen 0 und 1 zu. Bei sehr hohen Ergebniswerten über 0,8 ist das entsprechende Bild sehr wahrscheinlich nur für die private Betrachtung geeignet. Dies nutzt Goh, um mit einer im Sommer dieses Jahres beschriebenen Technik zur Bilderzeugung Darstellungen aus dem Modell von Yahoo zu generieren.

(Scheinbar) unschuldige Bilder

Die Idee dabei ist, die Neuronen, die bei der Bilderkennung besonders stark aktiviert werden, auch für die Bilderzeugung entsprechend stark zu aktivieren und das Ergebnis möglichst zu maximieren. "Wenig überraschend sind die Ergebnisse der Optimierung klar pornografisch", schreibt Goh. Allerdings sind die künstlich erzeugten Bilder eher abstrakte als realistische Darstellungen von Geschlechtsteilen.

Ebenso können damit aber auch Bilder erzeugt werden, die extrem niedrige Zielwerte nahe 0 aufweisen und damit etwa ruhige Landschaftsbilder aufweisen. Goh ist in seinem Experiment zudem noch einen Schritt weitergegangen und hat die beiden gegensätzlichen Kategorien so kombiniert, dass teilweise scheinbar wenig anstößige Landschaftsbilder sehr explizite Inhalte aufweisen, die quasi im Bild versteckt sind.

Golem Akademie
  1. OpenShift Installation & Administration
    9.-11. August 2021, online
  2. Python kompakt - Einführung für Softwareentwickler
    28.-29. Oktober 2021, online
  3. Advanced Python - Fortgeschrittene Programmierthemen
    16./17. September 2021, online
Weitere IT-Trainings

Den Code zu den Arbeiten bietet Goh auf seiner Webseite an. Weitere Details finden sich in der ausführlichen Erklärung von Goh.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Holoplot angehört
Die Sound-Scheinwerfer

Eine neue Lautsprechertechnologie mit enormem Potenzial: Holoplot bündelt Töne wie Licht und kann damit gezielt jeden Ort im Raum einzeln beschallen. Das klingt beeindruckend.
Ein Bericht von Martin Wolf

Holoplot angehört: Die Sound-Scheinwerfer
Artikel
  1. Quartalszahlen: AMD verdoppelt Umsatz und vervierfacht Gewinn
    Quartalszahlen
    AMD verdoppelt Umsatz und vervierfacht Gewinn

    Vor allem das Geschäft mit den Epyc-Server-CPUs und Konsolen-SoCs ist enorm gewachsen, auch Radeon/Ryzen verkaufen sich bei AMD gut.

  2. Software: Elon Musk verrät Teslas Tricks zur Bewältigung der Chipkrise
    Software
    Elon Musk verrät Teslas Tricks zur Bewältigung der Chipkrise

    Teslas Autos haben viel Elektronik an Bord, doch die Chipkrise scheint dem Unternehmen nichts anzuhaben. Elon Musk erzählt, wie das geschafft wurde.

  3. Microsoft: Windows Server 2022 ohne halbjährliche Inhaltspatches
    Microsoft
    Windows Server 2022 ohne halbjährliche Inhaltspatches

    Zwar wird auch Windows Server 2022 zehn Jahre im LTSC unterstützt. Kunden sollten sich aber auf weniger regelmäßige neue Inhalte einstellen.

theonlyone 24. Okt 2016

Die Rechenpower kommt ja aus deren Hardware. Den viele versuchen die weniger guten...

Topf 21. Okt 2016

+1 XD ! Super, echt hahaha.



Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • Samsung-Monitore Amazon Exclusive günstiger (u. a. G7 32" QLED Curved WQHD 240Hz 559€) • AKRacing Core EX-Wide SE Gaming-Stuhl 229€ • Thrustmaster TCA Officer Pack Airbus Edition 119,99€ • Flight Simulator Xbox Series X 69,99€ [Werbung]
    •  /