NSFW: Bilderzeugung erklärt Porno-Bilderkennung
Bei vielen Einsatzgebieten des maschinellen Lernens werden oft sogenannte neuronale Netze eingesetzt, etwa bei der automatischen Bilderkennung. Um zu verstehen, wie diese Netze funktionieren, kann deren Arbeitsweise im übertragenen Sinne umgedreht werden, um Bilder aus dem zugrundeliegenden Modell zu erzeugen. Der Promotionsstudent Gabriel Goh erläutert diese Vorgehensweise(öffnet im neuen Fenster) sehr anschaulich mit der Bilderkennung von Yahoo zum Auffinden pornografischer Inhalte.
Die Implementierung zu Letzterem hat das Engineering-Team von Yahoo vor drei Wochen(öffnet im neuen Fenster) als Open Source unter dem Namen Open NSFW (Not Suitable for Work) auf Github veröffentlicht. Dieses Modell weist dabei den eingegebenen Bildern Werte zwischen 0 und 1 zu. Bei sehr hohen Ergebniswerten über 0,8 ist das entsprechende Bild sehr wahrscheinlich nur für die private Betrachtung geeignet. Dies nutzt Goh, um mit einer im Sommer dieses Jahres beschriebenen Technik zur Bilderzeugung(öffnet im neuen Fenster) Darstellungen aus dem Modell von Yahoo zu generieren.
(Scheinbar) unschuldige Bilder
Die Idee dabei ist, die Neuronen, die bei der Bilderkennung besonders stark aktiviert werden, auch für die Bilderzeugung entsprechend stark zu aktivieren und das Ergebnis möglichst zu maximieren. "Wenig überraschend sind die Ergebnisse der Optimierung klar pornografisch" , schreibt Goh. Allerdings sind die künstlich erzeugten Bilder eher abstrakte als realistische Darstellungen von Geschlechtsteilen.
Ebenso können damit aber auch Bilder erzeugt werden, die extrem niedrige Zielwerte nahe 0 aufweisen und damit etwa ruhige Landschaftsbilder aufweisen. Goh ist in seinem Experiment zudem noch einen Schritt weitergegangen und hat die beiden gegensätzlichen Kategorien so kombiniert, dass teilweise scheinbar wenig anstößige Landschaftsbilder sehr explizite Inhalte aufweisen, die quasi im Bild versteckt sind.
Den Code zu den Arbeiten bietet Goh auf seiner Webseite an. Weitere Details finden sich in der ausführlichen Erklärung von Goh.