KI: Wenn die Gesichtserkennung dich für Elon Musk hält

Einem israelischen Startup ist es gelungen, Fotos so zu verändern, dass Algorithmen zur Gesichtserkennung andere Personen identifizieren.

Artikel veröffentlicht am ,
Durch leichte Veränderungen wirken die Gesichter für Gesichtserkennungssysteme wie ausgetauscht.
Durch leichte Veränderungen wirken die Gesichter für Gesichtserkennungssysteme wie ausgetauscht. (Bild: Mohamed Hassan/Pixabay)

Mit einer neuen Technik können Gesichtserkennungssysteme ausgetrickst werden. Fotos sollen dabei so verändert werden, dass die Systeme andere Personen identifizieren, während die Bilder für das Auge eines menschlichen Betrachters weitgehend normal erscheinen.

Stellenmarkt
  1. Business Solution Architect (w/m/d) für Digitalisierung
    Wacker Chemie AG, Burghausen
  2. IT-Systemadministrator Network, Voice & Telefonie (m/w/d)
    BOGE Elastmetall GmbH, Damme
Detailsuche

Entwickelt hat die Technik ein israelisches Unternehmen für künstliche Intelligenz (KI). Den Originalbildern fügt Adversa AI, so der Name des Unternehmens, nur winzige Veränderungen, also Rauschen hinzu. Diese tricksen jedoch die Gesichtserkennungsalgorithmen aus. So konnte ein Bild von CEO Alex Polyakov so verändert werden, dass die umstrittene Gesichtserkennungs-Suche Pimeyes in ihm Elon Musk erkannt hat.

Auch ein Foto von Motherboard-Journalist Todd Feathers konnte das Unternehmen so verändern, dass der Gesichtserkennungsalgorithmus ihn für Mark Zuckerberg hielt. Andere Methoden "verstecken Sie nur, sie verändern Sie nicht zu jemand anderem", sagte Polyakov zu Motherboard. Man habe das System daher Adversarial Octopus genannt hat, weil es "anpassungsfähig", "heimlich" und "präzise" sei.

Die Veränderung der Gesichter ist eine Blackbox

Dabei bleibe die Technik eine "Blackbox", erklärt Polyakov. Entsprechend verstehen die Adversarial-Octopus-Entwickler die genaue Logik hinter den Veränderungen, mit denen die neuronalen Netzwerke die Bilder verändern und ihr Ziel erreichen, nicht. Die Forschungsergebnisse möchte das Unternehmen im Rahmen eines Responsible-Disclosure-Verfahrens veröffentlichen, bei dem die Hersteller von Gesichtserkennungssystemen über die Schwachstelle und wie man sich gegen sie verteidigen kann, vorab informiert werden sollen.

Golem Akademie
  1. Penetration Testing Fundamentals
    23.-24. September 2021, online
  2. Microsoft 365 Security Workshop
    27.-29. Oktober 2021, Online
Weitere IT-Trainings

Dabei handelt es sich nicht um die erste Software, die Gesichtserkennungssysteme austrickst. Im vergangen Jahr veröffentlichte eine Forschergruppe an der Universität Chicago einen Algorithmus und eine Software mit dem Namen Fawkes, die Bilder vor Gesichtserkennung schützen soll. Das Berliner Startup Brighter AI bietet mit Protectphoto zudem einen Online-Service an, mit dem die Gesichter auf Gruppenfotos - beispielsweise von Demonstrationen - anonymisiert werden können.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Software
Elon Musk verrät Teslas Tricks zur Bewältigung der Chipkrise

Teslas Autos haben viel Elektronik an Bord, doch die Chipkrise scheint dem Unternehmen nichts anzuhaben. Elon Musk verrät, wie das geschafft wurde.

Software: Elon Musk verrät Teslas Tricks zur Bewältigung der Chipkrise
Artikel
  1. Sexismus: Mitarbeiter von Blizzard wenden sich gegen Management
    Sexismus
    Mitarbeiter von Blizzard wenden sich gegen Management

    Der Konflikt bei Activision Blizzard eskaliert, die Arbeit an World of Warcraft soll weitgehend eingestellt sein.

  2. Oneplus-Gründer: Nothing präsentiert transparente True-Wireless-Kopfhörer
    Oneplus-Gründer
    Nothing präsentiert transparente True-Wireless-Kopfhörer

    Die Ear (1) von Nothing haben ein transparentes Gehäuse, eingebautes Noise Cancelling und sollen mit einer Akkuladung vier bis sechs Stunden durchhalten.

  3. Monitore von Samsung deutlich reduziert bei Amazon
     
    Monitore von Samsung deutlich reduziert bei Amazon

    Derzeit finden sich bei Amazon viele interessante Deals. Neben Samsung-Monitoren sind dies weitere Monitore, ein Tablet und mehr.
    Ausgewählte Angebote des E-Commerce-Teams

HabeHandy 25. Jun 2021 / Themenstart

Interessanter wäre es wen man Gesicht mittels Schminke so verändern könnte das...

demon driver 25. Jun 2021 / Themenstart

..., aus dem der Bundestag letztes Jahr dieses Gesetz beschlossen hat, nach dem ab 2022...

Kommentieren



Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • Crucial Ballistix 16GB Kit 3200MHz 66,66€ • PCGH-Gaming-PCs stark reduziert (u. a. PC mit RTX 3060 & Ryzen 5 5600X 1.400€) • Samsung 27" Curved FHD 240Hz 239,90€ • OnePlus Nord CE 5G 128GB 299,49€ • Microsoft Flight Simulator Xbox Series X 69,99€ • 3 für 2 Spiele bei MM [Werbung]
    •  /