KI: Wenn die Gesichtserkennung dich für Elon Musk hält

Einem israelischen Startup ist es gelungen, Fotos so zu verändern, dass Algorithmen zur Gesichtserkennung andere Personen identifizieren.

Artikel veröffentlicht am ,
Durch leichte Veränderungen wirken die Gesichter für Gesichtserkennungssysteme wie ausgetauscht.
Durch leichte Veränderungen wirken die Gesichter für Gesichtserkennungssysteme wie ausgetauscht. (Bild: Mohamed Hassan/Pixabay)

Mit einer neuen Technik können Gesichtserkennungssysteme ausgetrickst werden. Fotos sollen dabei so verändert werden, dass die Systeme andere Personen identifizieren, während die Bilder für das Auge eines menschlichen Betrachters weitgehend normal erscheinen.

Stellenmarkt
  1. IT-Referent (m/w/d)
    Wirtschaftsrat der CDU e.V., Berlin-Mitte
  2. Systemadministrator (m/w/d) Windows
    Kittelberger GmbH Lichtsatz EDV Informationsverarbeitung, Reutlingen
Detailsuche

Entwickelt hat die Technik ein israelisches Unternehmen für künstliche Intelligenz (KI). Den Originalbildern fügt Adversa AI, so der Name des Unternehmens, nur winzige Veränderungen, also Rauschen hinzu. Diese tricksen jedoch die Gesichtserkennungsalgorithmen aus. So konnte ein Bild von CEO Alex Polyakov so verändert werden, dass die umstrittene Gesichtserkennungs-Suche Pimeyes in ihm Elon Musk erkannt hat.

Auch ein Foto von Motherboard-Journalist Todd Feathers konnte das Unternehmen so verändern, dass der Gesichtserkennungsalgorithmus ihn für Mark Zuckerberg hielt. Andere Methoden "verstecken Sie nur, sie verändern Sie nicht zu jemand anderem", sagte Polyakov zu Motherboard. Man habe das System daher Adversarial Octopus genannt hat, weil es "anpassungsfähig", "heimlich" und "präzise" sei.

Die Veränderung der Gesichter ist eine Blackbox

Dabei bleibe die Technik eine "Blackbox", erklärt Polyakov. Entsprechend verstehen die Adversarial-Octopus-Entwickler die genaue Logik hinter den Veränderungen, mit denen die neuronalen Netzwerke die Bilder verändern und ihr Ziel erreichen, nicht. Die Forschungsergebnisse möchte das Unternehmen im Rahmen eines Responsible-Disclosure-Verfahrens veröffentlichen, bei dem die Hersteller von Gesichtserkennungssystemen über die Schwachstelle und wie man sich gegen sie verteidigen kann, vorab informiert werden sollen.

Golem Akademie
  1. Microsoft 365 Security Workshop
    27.-29. Oktober 2021, Online
  2. Penetration Testing Fundamentals
    23.-24. September 2021, online
Weitere IT-Trainings

Dabei handelt es sich nicht um die erste Software, die Gesichtserkennungssysteme austrickst. Im vergangen Jahr veröffentlichte eine Forschergruppe an der Universität Chicago einen Algorithmus und eine Software mit dem Namen Fawkes, die Bilder vor Gesichtserkennung schützen soll. Das Berliner Startup Brighter AI bietet mit Protectphoto zudem einen Online-Service an, mit dem die Gesichter auf Gruppenfotos - beispielsweise von Demonstrationen - anonymisiert werden können.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Elon Musk
Tesla Model S bekommt ausschließlich Knight-Rider-Lenkrad

Elon Musk hat klargestellt, dass es für das Model S und das Model X kein normales Lenkrad mehr geben wird. Das D-förmige Lenkrad ist Pflicht.

Elon Musk: Tesla Model S bekommt ausschließlich Knight-Rider-Lenkrad
Artikel
  1. Loongson 3A5000: Chinesische Quadcore-CPU mit eigenem Befehlssatz
    Loongson 3A5000
    Chinesische Quadcore-CPU mit eigenem Befehlssatz

    50 Prozent schneller als der Vorgänger-Chip und dabei sparsamer: Der 3A5000 mit LoongArch-Technik stellt einen wichtigen Umbruch dar.

  2. Probefahrt mit EQS: Mercedes schüttelt Tesla ab, aber nicht die Klimakrise
    Probefahrt mit EQS
    Mercedes schüttelt Tesla ab, aber nicht die Klimakrise

    Der neue EQS von Mercedes-Benz widerlegt die Argumente vieler Elektroauto-Gegner. Auch die Komforttüren gefallen uns.
    Ein Bericht von Friedhelm Greis

  3. Förderprogramm: Bund will Fachkräfte für Akkuindustrie ausbilden lassen
    Förderprogramm
    Bund will Fachkräfte für Akkuindustrie ausbilden lassen

    Die Aus- und Weiterbildung für Fachleute im Bereich Akkuproduktion und -entwicklung wird mit 40 Millionen Euro aus der Staatskasse gefördert.

HabeHandy 25. Jun 2021 / Themenstart

Interessanter wäre es wen man Gesicht mittels Schminke so verändern könnte das...

demon driver 25. Jun 2021 / Themenstart

..., aus dem der Bundestag letztes Jahr dieses Gesetz beschlossen hat, nach dem ab 2022...

Kommentieren



  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • 30% Rabatt auf Amazon Warehouse • ASUS TUF VG279QM 280 Hz 306,22€ • Fractal Design Meshify C Mini 69,90€ • Acer Nitro XF243Y 165Hz OC ab 169€ • Samsung C24RG54FQR 125€ • EA-Promo bei Gamesplanet • Alternate (u. a. Fractal Design Define S2 106,89€) • Roccat Horde Aimo 49€ [Werbung]
    •  /