KI: Wenn die Gesichtserkennung dich für Elon Musk hält

Einem israelischen Startup ist es gelungen, Fotos so zu verändern, dass Algorithmen zur Gesichtserkennung andere Personen identifizieren.

Artikel veröffentlicht am ,
Durch leichte Veränderungen wirken die Gesichter für Gesichtserkennungssysteme wie ausgetauscht.
Durch leichte Veränderungen wirken die Gesichter für Gesichtserkennungssysteme wie ausgetauscht. (Bild: Mohamed Hassan/Pixabay)

Mit einer neuen Technik können Gesichtserkennungssysteme ausgetrickst werden. Fotos sollen dabei so verändert werden, dass die Systeme andere Personen identifizieren, während die Bilder für das Auge eines menschlichen Betrachters weitgehend normal erscheinen.

Stellenmarkt
  1. Projektmanager (m/w/d) Healthcare
    DAVASO GmbH, Leipzig
  2. Business Intelligence Developer (m/w/d)
    OBO Bettermann Holding GmbH & Co. KG, Menden
Detailsuche

Entwickelt hat die Technik ein israelisches Unternehmen für künstliche Intelligenz (KI). Den Originalbildern fügt Adversa AI, so der Name des Unternehmens, nur winzige Veränderungen, also Rauschen hinzu. Diese tricksen jedoch die Gesichtserkennungsalgorithmen aus. So konnte ein Bild von CEO Alex Polyakov so verändert werden, dass die umstrittene Gesichtserkennungs-Suche Pimeyes in ihm Elon Musk erkannt hat.

Auch ein Foto von Motherboard-Journalist Todd Feathers konnte das Unternehmen so verändern, dass der Gesichtserkennungsalgorithmus ihn für Mark Zuckerberg hielt. Andere Methoden "verstecken Sie nur, sie verändern Sie nicht zu jemand anderem", sagte Polyakov zu Motherboard. Man habe das System daher Adversarial Octopus genannt hat, weil es "anpassungsfähig", "heimlich" und "präzise" sei.

Die Veränderung der Gesichter ist eine Blackbox

Dabei bleibe die Technik eine "Blackbox", erklärt Polyakov. Entsprechend verstehen die Adversarial-Octopus-Entwickler die genaue Logik hinter den Veränderungen, mit denen die neuronalen Netzwerke die Bilder verändern und ihr Ziel erreichen, nicht. Die Forschungsergebnisse möchte das Unternehmen im Rahmen eines Responsible-Disclosure-Verfahrens veröffentlichen, bei dem die Hersteller von Gesichtserkennungssystemen über die Schwachstelle und wie man sich gegen sie verteidigen kann, vorab informiert werden sollen.

Golem Karrierewelt
  1. Jira für Systemadministratoren: virtueller Zwei-Tage-Workshop
    08./09.09.2022, virtuell
  2. Kubernetes Dive-in-Workshop: virtueller Drei-Tage-Workshop
    19.-21.07.2022, Virtuell
Weitere IT-Trainings

Dabei handelt es sich nicht um die erste Software, die Gesichtserkennungssysteme austrickst. Im vergangen Jahr veröffentlichte eine Forschergruppe an der Universität Chicago einen Algorithmus und eine Software mit dem Namen Fawkes, die Bilder vor Gesichtserkennung schützen soll. Das Berliner Startup Brighter AI bietet mit Protectphoto zudem einen Online-Service an, mit dem die Gesichter auf Gruppenfotos - beispielsweise von Demonstrationen - anonymisiert werden können.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


HabeHandy 25. Jun 2021

Interessanter wäre es wen man Gesicht mittels Schminke so verändern könnte das...

demon driver 25. Jun 2021

..., aus dem der Bundestag letztes Jahr dieses Gesetz beschlossen hat, nach dem ab 2022...



Aktuell auf der Startseite von Golem.de
SFConservancy
Open-Source-Entwickler sollen Github wegen Copilot verlassen

Ähnlich wie schon vor Jahrzehnten mit Sourceforge sollen Open-Source-Projekte nun auch Github verlassen.

SFConservancy: Open-Source-Entwickler sollen Github wegen Copilot verlassen
Artikel
  1. Chrome OS Flex: Das Apple Chromebook
    Chrome OS Flex
    Das Apple Chromebook

    Ein zehn Jahre altes Notebook lässt sich mit Chrome OS Flex wieder flott machen. Wir haben Googles Betriebssystem ausprobiert und waren begeistert.
    Ein Erfahrungsbericht von Martin Wolf

  2. Ransomware: Universität erzielt durch Lösegeldrückzahlung Gewinn
    Ransomware
    Universität erzielt durch Lösegeldrückzahlung Gewinn

    Die Universität Maastricht wurde nach einem Ransomware-Angriff erpresst und zahlte. Krypto-Kursschwankungen führten nun zu einem finanziellen Gewinn.

  3. Krypto-Hedgefunds: Three Arrows Capital ist offiziell insolvent
    Krypto-Hedgefunds
    Three Arrows Capital ist offiziell insolvent

    Neue Informationen zeigen, dass es beim Krypto-Fonds Three Arrows Capital zahlreiche Ungereimtheiten gibt.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • MSI RTX 3080 12GB günstig wie nie: 949€ • AMD Ryzen 7 günstig wie nie: 259€ • Der beste 2.000€-Gaming-PC • Cooler Master 34" UWQHD 144 Hz günstig wie nie: 467,85€ • Asus RX 6900 XT OC günstig wie nie: 1.049€ • Mindstar (Gigabyte RTX 3060 399€) • Galaxy Watch3 45 mm 119€ [Werbung]
    •  /