KI: Wenn die Gesichtserkennung dich für Elon Musk hält

Einem israelischen Startup ist es gelungen, Fotos so zu verändern, dass Algorithmen zur Gesichtserkennung andere Personen identifizieren.

Artikel veröffentlicht am ,
Durch leichte Veränderungen wirken die Gesichter für Gesichtserkennungssysteme wie ausgetauscht.
Durch leichte Veränderungen wirken die Gesichter für Gesichtserkennungssysteme wie ausgetauscht. (Bild: Mohamed Hassan/Pixabay)

Mit einer neuen Technik können Gesichtserkennungssysteme ausgetrickst werden. Fotos sollen dabei so verändert werden, dass die Systeme andere Personen identifizieren, während die Bilder für das Auge eines menschlichen Betrachters weitgehend normal erscheinen.

Stellenmarkt
  1. Consultant (m/w/d) Software Engineering
    J.M. Voith SE & Co. KG | DSG, Heidenheim
  2. Business Analyst (m/w/d) Börsenbetrieb, Abteilung Handelssysteme
    Börse Stuttgart GmbH, Stuttgart
Detailsuche

Entwickelt hat die Technik ein israelisches Unternehmen für künstliche Intelligenz (KI). Den Originalbildern fügt Adversa AI, so der Name des Unternehmens, nur winzige Veränderungen, also Rauschen hinzu. Diese tricksen jedoch die Gesichtserkennungsalgorithmen aus. So konnte ein Bild von CEO Alex Polyakov so verändert werden, dass die umstrittene Gesichtserkennungs-Suche Pimeyes in ihm Elon Musk erkannt hat.

Auch ein Foto von Motherboard-Journalist Todd Feathers konnte das Unternehmen so verändern, dass der Gesichtserkennungsalgorithmus ihn für Mark Zuckerberg hielt. Andere Methoden "verstecken Sie nur, sie verändern Sie nicht zu jemand anderem", sagte Polyakov zu Motherboard. Man habe das System daher Adversarial Octopus genannt hat, weil es "anpassungsfähig", "heimlich" und "präzise" sei.

Die Veränderung der Gesichter ist eine Blackbox

Dabei bleibe die Technik eine "Blackbox", erklärt Polyakov. Entsprechend verstehen die Adversarial-Octopus-Entwickler die genaue Logik hinter den Veränderungen, mit denen die neuronalen Netzwerke die Bilder verändern und ihr Ziel erreichen, nicht. Die Forschungsergebnisse möchte das Unternehmen im Rahmen eines Responsible-Disclosure-Verfahrens veröffentlichen, bei dem die Hersteller von Gesichtserkennungssystemen über die Schwachstelle und wie man sich gegen sie verteidigen kann, vorab informiert werden sollen.

Golem Akademie
  1. Linux-Systeme absichern und härten
    8.-10. November 2021, online
  2. Penetration Testing Fundamentals
    23.-24. September 2021, online
  3. Microsoft 365 Security Workshop
    27.-29. Oktober 2021, Online
Weitere IT-Trainings

Dabei handelt es sich nicht um die erste Software, die Gesichtserkennungssysteme austrickst. Im vergangen Jahr veröffentlichte eine Forschergruppe an der Universität Chicago einen Algorithmus und eine Software mit dem Namen Fawkes, die Bilder vor Gesichtserkennung schützen soll. Das Berliner Startup Brighter AI bietet mit Protectphoto zudem einen Online-Service an, mit dem die Gesichter auf Gruppenfotos - beispielsweise von Demonstrationen - anonymisiert werden können.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Astro
Amazons erster Roboter kostet 1.500 US-Dollar

Astro heißt der erste Roboter von Amazon. Es ist eine Art rollender Echo Show mit Schwerpunkt auf Videoüberwachung.

Astro: Amazons erster Roboter kostet 1.500 US-Dollar
Artikel
  1. Amazon Alexa: Neuer Echo Show mit Personenerkennung wird aufgehängt
    Amazon Alexa
    Neuer Echo Show mit Personenerkennung wird aufgehängt

    Amazon erfindet den Echo Show neu: Der Echo Show 15 hat ein besonders großes Display und kann Personen erkennen.

  2. Cupra Urban Rebel: VW-Tochter kündigt Elektrorenner für 25.000 Euro an
    Cupra Urban Rebel
    VW-Tochter kündigt Elektrorenner für 25.000 Euro an

    Autobauer Cupra bringt mit dem Urban Rebel ein günstiges Elektroauto für all jene auf den Markt, denen der ID.Life von VW zu langweilig ist.

  3. Blink Video Doorbell: Amazon stellt Videotürklingel für 60 Euro vor
    Blink Video Doorbell
    Amazon stellt Videotürklingel für 60 Euro vor

    Amazon hat eine Videotürklingel unter dem Blink-Label vorgestellt. Sie soll vor allem mit einem günstigen Preis überzeugen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Echo Show 15 249,99€ • eero 6 Wifi 6 System 3er-Pack 299€ • Saturn-Aktion: Win 10-Laptop oder PC kaufen, kostenloses Upgrade auf Win 11 erhalten • Bosch Professional & PC-Spiele von EA günstiger • Alternate (u. a. Asus TUF Gaming-Monitor 23,8" FHD 165Hz 179,90€) • 6 UHDs kaufen, nur 4 bezahlen [Werbung]
    •  /