Software: Fawkes soll vor Gesichtserkennung schützen

Eine Forschergruppe hat einen Algorithmus veröffentlicht, der Fotos so verändert, dass Gesichtserkennung nicht mehr funktioniert.

Artikel veröffentlicht am 23. Juli 2020, 11:32 Uhr, Moritz Tremmel

Gesichtserkennung (Symbolbild) (Bild: Gerd Altmann/Pixabay)

Mit der Software Fawkes und dem gleichnamigen Algorithmus sollen Gesichtsbilder so verändert werden, dass sie von Gesichtserkennungssystemen nicht mehr erkannt werden können. Für den menschlichen Betrachter bleiben die Gesichter jedoch gut identifizierbar. Entwickelt wurde die Software von einer Forschergruppe an der Universität Chicago in den USA.

"Unser Verzerrungs- oder Cloaking-Algorithmus nimmt die Fotos des Benutzers auf und berechnet minimale Störungen, die sie im Merkmalsraum eines Gesichtserkennungsmodells (unter Verwendung realer oder synthetischer Bilder eines Dritten als Orientierungspunkt) erheblich verschieben", beschreibt die Forschergruppe ihr Vorgehen. Durch die minimalen Veränderungen auf der Pixelebene sollen die stetig weiterlernenden Gesichtserkennungsmodelle manipuliert werden, indem sie aus den veränderten Bildern falsche Schlüsse ziehen.

Die Technik soll beispielsweise gegen die Praxis von Firmen wie Clearview AI schützen, die eine riesige Gesichtserkennungsdatenbank aus öffentlich zugänglichen Bildern aufgebaut haben. Die veränderten Fotos, die etwa über soziale Medien geteilt werden können, könnten dann nicht mehr mit anderen Bildern der abgebildeten Person in Verbindung gebracht werden.

In der Praxis soll dies mit den Gesichtserkennungsmodellen von Microsoft Azure, Amazon Rekognition und Face++ funktioniert haben. Diese sollen, nachdem sie mit den veränderten Bildern trainiert wurden, keine Übereinstimmung mit den echten Bildern einer Person gefunden haben. Das Team der Universität Chicago betont jedoch, dass es sich um ein Forschungsprojekt handle, das möglicherweise nicht mit allen Bildern oder Gesichtserkennungsmodellen funktioniere.

Fawkes ist eine Python geschriebene Open-Source-Software, die lokal auf dem Rechner ausgeführt wird. Interessierte können sich die Software für Windows, Linux und Mac herunterladen sowie den Quellcode auf Github einsehen. Die Forschergruppe will die Software in Zukunft benutzerfreundlicher gestalten. Eine App solle es jedoch nicht geben, da die Rechenleistung von Smartphones zu gering sei.

Der Name Fawkes ist der Graphic Novel und deren Verfilmung V wie Vendetta entlehnt, aus der die bekannten Guy-Fawkes-Masken stammen, die das Markenzeichen der Hacktivistengruppe Anonymous wurden.