Künstliche Intelligenz: Flitterwochen-Fotos trainieren ungewollt Gesichtserkennung

Mit dem Projekt Exposing.ai lässt sich herausfinden, ob Flickr-Fotos in Trainingsdatensätzen für Gesichtserkennung verwendet werden.

Artikel veröffentlicht am ,
Urlaubsschnappschüsse können ungewollt Gesichtserkennungssysteme auf der ganzen Welt trainieren.
Urlaubsschnappschüsse können ungewollt Gesichtserkennungssysteme auf der ganzen Welt trainieren. (Bild: Chris Lawto/Unsplash)

Um ihre Algorithmen zur Gesichtserkennung zu trainieren, verwenden etliche Überwachungsfirmen öffentlich verfügbare Bilder aus verschiedenen Onlinequellen - darunter nicht selten die Fotoplattform Flickr. Mit dem Tool Exposing.ai können Flickr-Nutzer prüfen, ob ihre Fotos betroffen sind.

Stellenmarkt
  1. Backend Entwickler (m/w/d)
    monari GmbH, Gronau
  2. Software Product Marketing Manager - Advantest Cloud Solutions (m/f/d)
    Advantest Europe GmbH, Böblingen
Detailsuche

So musste der kanadische Dokumentarfilmer Brett Gaylor feststellen, dass seine Flittwerwochen-Fotos, die er vor 15 Jahren auf der Plattform hochgeladen hatte, ihren Weg in mehrere Trainingsdatensätze gefunden hatten - wie er über eine Vorabversion von Exposing.ai herausfand.

Demnach sind Gaylors Fotos in der Fotodatenbank Megaface enthalten, die ursprünglich aus der Forschung an Gesichtserkennungssystemen stammt. Die Bilder wurden jedoch auch zum Training von etlichen umstrittenen Anwendungen genutzt, die in der Praxis zum Einsatz kommen.

Darunter ist ein in China eingesetztes System zur Kontrolle und Überwachung der Minderheit der Uiguren. "Meine Neugierde verwandelte sich in Entsetzen", sagte Gaylor der New York Times, der seine Fotos in der Vorabversion von Exposing.ai wiederentdeckte.

Golem Karrierewelt
  1. Cinema 4D Grundlagen: virtueller Drei-Tage-Workshop
    07.-09.11.2022, Virtuell
  2. IT-Sicherheit: (Anti-)Hacking für Administratoren und Systembetreuer: virtueller Drei-Tage-Workshop
    10.-12.10.2022, Virtuell
Weitere IT-Trainings

Seine Fotos hatte Gaylor unter einer Creative-Commons-Lizenz geteilt, die auch anderen das Recht gibt, seine Fotos zu verwenden. Er habe geglaubt, dass der freie Fluss von Informationen im Internet meist eine positive Sache sei, sagte er. Jetzt müsse er auch mit den negativen Konsequenzen leben.

Flickr-Fotos in Gesichtserkennungssystemen finden

Auf solche Fälle wollen die Privatsphäre-Aktivisten Adam Harvey und Jules LaPlace mit Exposing.ai aufmerksam machen. Die Webseite funktioniert ähnlich wie eine Suchmaschine. Mithilfe einer URL zu einem Bild bei Flickr kann überprüft werden, ob das entsprechende Foto in einem öffentlichen Gesichtserkennungs-Trainingsdatensatz enthalten ist.

Bei der Suche komme keine Gesichtserkennung zum Einsatz. Es werde nur auf Textattribute der Flickr-Fotos gesetzt, "einschließlich des Flickr-Benutzernamens, Flickr-Pfad-Alias, Flickr-NSID, Flickr-Foto-ID oder Flickr-Foto-Tag", heißt es auf der Webseite. Insgesamt werden sechs Fotosammlungen durchsucht, darunter Megaface mit über 3,5 Millionen Flickr-Bildern, Divaface mit über 115.000 und Pipa mit über 31.000 Fotos.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
e.Go Life getestet
Abgesang auf ein schwer erfüllbares Versprechen

Der e.Go Life aus Aachen sollte Elektromobilität erschwinglich machen. Doch nach 1.500 ausgelieferten Exemplaren ist nun Schluss. Was nachvollziehbar ist.
Ein Bericht von Friedhelm Greis

e.Go Life getestet: Abgesang auf ein schwer erfüllbares Versprechen
Artikel
  1. Unbound: Neues Need for Speed verbindet Gaspedal mit Graffiti
    Unbound
    Neues Need for Speed verbindet Gaspedal mit Graffiti

    Veröffentlichung im Dezember 2022 nur für PC und die neuen Konsolen: Electronic Arts hat ein sehr buntes Need for Speed vorgestellt.

  2. Google: Pixel 7 und 7 Pro kosten so viel wie die Vorgänger
    Google
    Pixel 7 und 7 Pro kosten so viel wie die Vorgänger

    Googles Pixel-7-Smartphones kommen mit neuem Tensor-Chip, ansonsten ist die Hardware vertraut. Neuigkeiten gibt es bei der Software.

  3. Lochstreifenleser selbst gebaut: Lochstreifen für das 21. Jahrhundert
    Lochstreifenleser selbst gebaut
    Lochstreifen für das 21. Jahrhundert

    Früher wurden Daten auf Lochstreifen gespeichert - lesen kann man sie heute nicht mehr so leicht. Es sei denn, man verwendet Jürgen Müllers Lesegerät auf Arduino-Basis.
    Von Tobias Költzsch

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5 jetzt bestellbar • MindStar (Gigabyte RTX 3090 Ti 1.099€, RTX 3070 539€) • Alternate (Team Group DDR4/DDR5-RAM u. SSD) • Günstig wie nie: MSI Curved 27" WQHD 165Hz 289€, Philips LED TV 55" Ambilight 549€, Inno3D RTX 3090 Ti 1.199€ • 3 Spiele für 49€ [Werbung]
    •  /