KI: Wenn die Gesichtserkennung dich für Elon Musk hält

Einem israelischen Startup ist es gelungen, Fotos so zu verändern, dass Algorithmen zur Gesichtserkennung andere Personen identifizieren.

Artikel veröffentlicht am ,
Durch leichte Veränderungen wirken die Gesichter für Gesichtserkennungssysteme wie ausgetauscht.
Durch leichte Veränderungen wirken die Gesichter für Gesichtserkennungssysteme wie ausgetauscht. (Bild: Mohamed Hassan/Pixabay)

Mit einer neuen Technik können Gesichtserkennungssysteme ausgetrickst werden. Fotos sollen dabei so verändert werden, dass die Systeme andere Personen identifizieren, während die Bilder für das Auge eines menschlichen Betrachters weitgehend normal erscheinen.

Stellenmarkt
  1. IT-Techniker - Technischer Support & Service (m/w/d)
    JDM Innovation GmbH, Murr bei Ludwigsburg
  2. Datenbank-Entwickler (m/w/d)
    DZ PRIVATBANK S.A., Luxemburg (Luxemburg)
Detailsuche

Entwickelt hat die Technik ein israelisches Unternehmen für künstliche Intelligenz (KI). Den Originalbildern fügt Adversa AI, so der Name des Unternehmens, nur winzige Veränderungen, also Rauschen hinzu. Diese tricksen jedoch die Gesichtserkennungsalgorithmen aus. So konnte ein Bild von CEO Alex Polyakov so verändert werden, dass die umstrittene Gesichtserkennungs-Suche Pimeyes in ihm Elon Musk erkannt hat.

Auch ein Foto von Motherboard-Journalist Todd Feathers konnte das Unternehmen so verändern, dass der Gesichtserkennungsalgorithmus ihn für Mark Zuckerberg hielt. Andere Methoden "verstecken Sie nur, sie verändern Sie nicht zu jemand anderem", sagte Polyakov zu Motherboard. Man habe das System daher Adversarial Octopus genannt hat, weil es "anpassungsfähig", "heimlich" und "präzise" sei.

Die Veränderung der Gesichter ist eine Blackbox

Dabei bleibe die Technik eine "Blackbox", erklärt Polyakov. Entsprechend verstehen die Adversarial-Octopus-Entwickler die genaue Logik hinter den Veränderungen, mit denen die neuronalen Netzwerke die Bilder verändern und ihr Ziel erreichen, nicht. Die Forschungsergebnisse möchte das Unternehmen im Rahmen eines Responsible-Disclosure-Verfahrens veröffentlichen, bei dem die Hersteller von Gesichtserkennungssystemen über die Schwachstelle und wie man sich gegen sie verteidigen kann, vorab informiert werden sollen.

Golem Akademie
  1. Microsoft 365 Security Workshop
    27.-29. Oktober 2021, Online
  2. Penetration Testing Fundamentals
    23.-24. September 2021, online
Weitere IT-Trainings

Dabei handelt es sich nicht um die erste Software, die Gesichtserkennungssysteme austrickst. Im vergangen Jahr veröffentlichte eine Forschergruppe an der Universität Chicago einen Algorithmus und eine Software mit dem Namen Fawkes, die Bilder vor Gesichtserkennung schützen soll. Das Berliner Startup Brighter AI bietet mit Protectphoto zudem einen Online-Service an, mit dem die Gesichter auf Gruppenfotos - beispielsweise von Demonstrationen - anonymisiert werden können.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Akkutechnik
CATL stellt erste Natrium-Ionen-Akkus für Autos vor

160 Wh pro Kilogramm. 80 Prozent Akkuladung in 15 Minuten. 90 Prozent Kapazität bei minus 20 Grad Celsius. CATL startet eine neue Ära der Akku-Technik.
Eine Analyse von Frank Wunderlich-Pfeiffer

Akkutechnik: CATL stellt erste Natrium-Ionen-Akkus für Autos vor
Artikel
  1. Erneuerbare Energien: Größte Gezeitenturbine geht vor Schottland in Betrieb
    Erneuerbare Energien
    Größte Gezeitenturbine geht vor Schottland in Betrieb

    Die Meere bieten viel Energie, die sich in elektrischen Strom wandeln lässt. In Schottland ist gerade ein neues Gezeitenkraftwerk ans Netz gegangen.

  2. Verschlüsselung: Windows-Verschlüsselung Bitlocker trotz TPM-Schutz umgangen
    Verschlüsselung
    Windows-Verschlüsselung Bitlocker trotz TPM-Schutz umgangen

    Eine mit Bitlocker verschlüsselte SSD mit TPM-Schutz lässt sich relativ einfach knacken. Ein Passwort schützt, ist aber nicht der Standard.

  3. Spionagesoftware: Israelische Behörden überprüfen Pegasus-Hersteller NSO
    Spionagesoftware
    Israelische Behörden überprüfen Pegasus-Hersteller NSO

    War es eine Razzia oder eine freundliche Besichtigung? Der diplomatische Druck auf Israel wegen des Trojaner-Herstellers NSO zeigt offenbar Wirkung.

HabeHandy 25. Jun 2021 / Themenstart

Interessanter wäre es wen man Gesicht mittels Schminke so verändern könnte das...

demon driver 25. Jun 2021 / Themenstart

..., aus dem der Bundestag letztes Jahr dieses Gesetz beschlossen hat, nach dem ab 2022...

Kommentieren



  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • Bosch Professional günstiger • Asus TUF Gaming 23,8" FHD 144Hz 169€ • Acer-Chromebooks zu Bestpreisen (u. a. 14" 64GB 229€) • Alternate (u. a. Deepcool-Gehäuselüfter ab 24,99€) • EA-Spiele (PC) günstiger (u. a. Battlefield 5 5,99€) • Philips-Fernseher 65" Ambilight 679€ [Werbung]
    •  /