Künstliche Intelligenz: Flitterwochen-Fotos trainieren ungewollt Gesichtserkennung

Mit dem Projekt Exposing.ai lässt sich herausfinden, ob Flickr-Fotos in Trainingsdatensätzen für Gesichtserkennung verwendet werden.

Artikel veröffentlicht am ,
Urlaubsschnappschüsse können ungewollt Gesichtserkennungssysteme auf der ganzen Welt trainieren.
Urlaubsschnappschüsse können ungewollt Gesichtserkennungssysteme auf der ganzen Welt trainieren. (Bild: Chris Lawto/Unsplash)

Um ihre Algorithmen zur Gesichtserkennung zu trainieren, verwenden etliche Überwachungsfirmen öffentlich verfügbare Bilder aus verschiedenen Onlinequellen - darunter nicht selten die Fotoplattform Flickr. Mit dem Tool Exposing.ai können Flickr-Nutzer prüfen, ob ihre Fotos betroffen sind.

Stellenmarkt
  1. Softwareentwickler/in für SAP-ABAP/UI5 (m/w/d)
    Compiricus AG, Düsseldorf
  2. Salesforce Administrator (m/w/d)
    DiMaBay GmbH, Berlin, Bayreuth (Home-Office möglich)
Detailsuche

So musste der kanadische Dokumentarfilmer Brett Gaylor feststellen, dass seine Flittwerwochen-Fotos, die er vor 15 Jahren auf der Plattform hochgeladen hatte, ihren Weg in mehrere Trainingsdatensätze gefunden hatten - wie er über eine Vorabversion von Exposing.ai herausfand.

Demnach sind Gaylors Fotos in der Fotodatenbank Megaface enthalten, die ursprünglich aus der Forschung an Gesichtserkennungssystemen stammt. Die Bilder wurden jedoch auch zum Training von etlichen umstrittenen Anwendungen genutzt, die in der Praxis zum Einsatz kommen.

Darunter ist ein in China eingesetztes System zur Kontrolle und Überwachung der Minderheit der Uiguren. "Meine Neugierde verwandelte sich in Entsetzen", sagte Gaylor der New York Times, der seine Fotos in der Vorabversion von Exposing.ai wiederentdeckte.

Golem Akademie
  1. Netzwerktechnik Kompaktkurs
    8.-12. November 2021, online
Weitere IT-Trainings

Seine Fotos hatte Gaylor unter einer Creative-Commons-Lizenz geteilt, die auch anderen das Recht gibt, seine Fotos zu verwenden. Er habe geglaubt, dass der freie Fluss von Informationen im Internet meist eine positive Sache sei, sagte er. Jetzt müsse er auch mit den negativen Konsequenzen leben.

Flickr-Fotos in Gesichtserkennungssystemen finden

Auf solche Fälle wollen die Privatsphäre-Aktivisten Adam Harvey und Jules LaPlace mit Exposing.ai aufmerksam machen. Die Webseite funktioniert ähnlich wie eine Suchmaschine. Mithilfe einer URL zu einem Bild bei Flickr kann überprüft werden, ob das entsprechende Foto in einem öffentlichen Gesichtserkennungs-Trainingsdatensatz enthalten ist.

Bei der Suche komme keine Gesichtserkennung zum Einsatz. Es werde nur auf Textattribute der Flickr-Fotos gesetzt, "einschließlich des Flickr-Benutzernamens, Flickr-Pfad-Alias, Flickr-NSID, Flickr-Foto-ID oder Flickr-Foto-Tag", heißt es auf der Webseite. Insgesamt werden sechs Fotosammlungen durchsucht, darunter Megaface mit über 3,5 Millionen Flickr-Bildern, Divaface mit über 115.000 und Pipa mit über 31.000 Fotos.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Google
Neues Pixel 6 kostet 650 Euro

Das Pixel 6 Pro mit Telekamera und schnellerem Display kostet ab 900 Euro. Google verbaut erstmals einen eigenen Prozessor.

Google: Neues Pixel 6 kostet 650 Euro
Artikel
  1. M1 Pro/Max: Dieses Apple Silicon ist gigantisch
    M1 Pro/Max
    Dieses Apple Silicon ist gigantisch

    Egal ob AMD-, Intel- oder Nvidia-Hardware: Mit dem M1 Pro und dem M1 Max schickt sich Apple an, die versammelte Konkurrenz zu düpieren.
    Eine Analyse von Marc Sauter

  2. Klimaforscher: Das Konzept der Klimaneutralität ist eine gefährliche Falle
    Klimaforscher
    Das Konzept der Klimaneutralität ist eine gefährliche Falle

    Mit der Entnahme von CO2 in den nächsten Jahrzehnten netto auf null Emissionen zu kommen, klingt nach einer guten Idee. Ist es aber nicht, sagen Klimaforscher.
    Von James Dyke, Robert Watson und Wolfgang Knorr

  3. Kalter Krieg 2.0?: Die Aufregung um Chinas angebliche Hyperschallwaffe
    Kalter Krieg 2.0?
    Die Aufregung um Chinas angebliche Hyperschallwaffe

    Die Volksrepublik China soll eine Hyperschallwaffe getestet haben. China dementiert die Vorwürfe aber und sagt, es wäre ein Raumschiff gewesen.
    Eine Analyse von Patrick Klapetz

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Cyber Week: Bis zu 16% auf SSDs & RAM von Adata & bis zu 30% auf Alternate • 3 Spiele für 49€: PC, PS5 uvm. • Switch OLED 369,99€ • 6 Blu-rays für 40€ • MSI 27" Curved WQHD 165Hz HDR 479€ • Chromebooks zu Bestpreisen • Alternate (u. a. Team Group PCIe-4.0-SSD 1TB 152,90€) [Werbung]
    •  /