Software: Fawkes soll vor Gesichtserkennung schützen

Eine Forschergruppe hat einen Algorithmus veröffentlicht, der Fotos so verändert, dass Gesichtserkennung nicht mehr funktioniert.

Artikel veröffentlicht am ,
Gesichtserkennung (Symbolbild)
Gesichtserkennung (Symbolbild) (Bild: Gerd Altmann/Pixabay)

Mit der Software Fawkes und dem gleichnamigen Algorithmus sollen Gesichtsbilder so verändert werden, dass sie von Gesichtserkennungssystemen nicht mehr erkannt werden können. Für den menschlichen Betrachter bleiben die Gesichter jedoch gut identifizierbar. Entwickelt wurde die Software von einer Forschergruppe an der Universität Chicago in den USA.

Stellenmarkt
  1. SAP ABAP OO Entwickler (m/w/x)
    über duerenhoff GmbH, Raum Mannheim
  2. Spezialist Stammdatenmanagement Betriebsmittel (m/w/d)
    DRÄXLMAIER Group, Vilsbiburg bei Landshut
Detailsuche

"Unser Verzerrungs- oder Cloaking-Algorithmus nimmt die Fotos des Benutzers auf und berechnet minimale Störungen, die sie im Merkmalsraum eines Gesichtserkennungsmodells (unter Verwendung realer oder synthetischer Bilder eines Dritten als Orientierungspunkt) erheblich verschieben", beschreibt die Forschergruppe ihr Vorgehen. Durch die minimalen Veränderungen auf der Pixelebene sollen die stetig weiterlernenden Gesichtserkennungsmodelle manipuliert werden, indem sie aus den veränderten Bildern falsche Schlüsse ziehen.

Die Technik soll beispielsweise gegen die Praxis von Firmen wie Clearview AI schützen, die eine riesige Gesichtserkennungsdatenbank aus öffentlich zugänglichen Bildern aufgebaut haben. Die veränderten Fotos, die etwa über soziale Medien geteilt werden können, könnten dann nicht mehr mit anderen Bildern der abgebildeten Person in Verbindung gebracht werden.

In der Praxis soll dies mit den Gesichtserkennungsmodellen von Microsoft Azure, Amazon Rekognition und Face++ funktioniert haben. Diese sollen, nachdem sie mit den veränderten Bildern trainiert wurden, keine Übereinstimmung mit den echten Bildern einer Person gefunden haben. Das Team der Universität Chicago betont jedoch, dass es sich um ein Forschungsprojekt handle, das möglicherweise nicht mit allen Bildern oder Gesichtserkennungsmodellen funktioniere.

Golem Akademie
  1. Terraform mit AWS
    14.-15. Dezember 2021, online
  2. Microsoft 365 Security Workshop
    27.-29. Oktober 2021, Online
  3. Cloud Computing mit Amazon Web Services (AWS)
    29. November-1. Dezember 2021, Online
Weitere IT-Trainings

Fawkes ist eine Python geschriebene Open-Source-Software, die lokal auf dem Rechner ausgeführt wird. Interessierte können sich die Software für Windows, Linux und Mac herunterladen sowie den Quellcode auf Github einsehen. Die Forschergruppe will die Software in Zukunft benutzerfreundlicher gestalten. Eine App solle es jedoch nicht geben, da die Rechenleistung von Smartphones zu gering sei.

Der Name Fawkes ist der Graphic Novel und deren Verfilmung V wie Vendetta entlehnt, aus der die bekannten Guy-Fawkes-Masken stammen, die das Markenzeichen der Hacktivistengruppe Anonymous wurden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Niriel 29. Jul 2020

Ergebnis: Nur Shawn wurde so weit entfremdet das Picasa ihn nicht wieder erkannt hat...

Emanuele F. 23. Jul 2020

Ich habe es bei der Person-Verlängerung (Erneuerung) vor 3 Wochen sogar auf normalen...

Trockenobst 23. Jul 2020

Die einen wollen was, die anderen wollen was anderes. Richtig und Falsch ist zunehmend...

Trockenobst 23. Jul 2020

Die Augen werden jeweils um ein Pixel nach rechts, unten oben verschoben. Die Nase ist...

rubberduck09 23. Jul 2020

Sondern "nur" das Gesicht vermisst. Es ist klar zu erkennen dass z.B. der Augenabstand...



Aktuell auf der Startseite von Golem.de
Mobiles Betriebssystem
iOS 15 mit Focus, OCR und schickem Facetime

Apple hat iOS 15 für iPhones und den iPod Touch vorgestellt. Radikale Neuerungen sind nicht dabei, dafür aber einige interessante Funktionen.

Mobiles Betriebssystem: iOS 15 mit Focus, OCR und schickem Facetime
Artikel
  1. Windows 11: Geplante Obsoleszenz ist schlecht, Microsoft!
    Windows 11
    Geplante Obsoleszenz ist schlecht, Microsoft!

    Kunden ärgern sich darüber, dass ihre vier Jahre alten Prozessoren bereits kein Windows 11 mehr unterstützen. Zu Recht.
    Ein IMHO von Oliver Nickel

  2. Apple Watch: watchOS 8 mit Achtsamkeits-Funktion und Porträt-Zifferblatt
    Apple Watch
    watchOS 8 mit Achtsamkeits-Funktion und Porträt-Zifferblatt

    Apple hat für die Apple Watch mit watchOS 8 ein neues Betriebssystem vorgestellt, das neue Zugriffs-, Konnektivitäts- und Achtsamkeitsfunktionen auf die Smartwatch bringt.

  3. Diablo 2 Resurrected: Entwickler äußern sich zu Blizzard-Boykott
    Diablo 2 Resurrected
    Entwickler äußern sich zu Blizzard-Boykott

    Für viele Spieler wäre Diablo 2 Resurrected ein Pflichtkauf. Blizzard soll aber nicht unterstützt werden. Das sagen Entwickler zum Dilemma.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • MM-Prospekt (u. a. Asus Gaming-Notebook 17" RTX 3050 1.099€) • PCGH-PC mit Ryzen 5 3600 & RTX 3060 999€ • Samsung 970 Evo Plus 1TB 99€ • Saturn Hits 2021 (u. a. Philips 55" OLED 120Hz 1.849€) • Corsair RGB 16GB Kit 3600MHz 87,90€ • Dualsense Schwarz + Deathloop 99,99€ [Werbung]
    •  /