Deepfakes sollen ausgeschlossen werden

"Wir wollen ausschließen, dass es zu einer Verwechslung mit Deepfakes kommt", begründet der Firmenchef die begrenzte Funktionalität in der öffentlichen Gratisversion. Dabei würden ähnliche Basistechnologien zur bewussten Manipulation etwa politischer Inhalte missbraucht. Zugleich will Brighter AI so offenbar auch verhindern, dass sich Passfotos herstellen lassen, bei denen das künstlich erzeugte Bild zwar optisch dem des Inhabers des Ausweisdokuments ähnelt, automatische Gesichtserkennung aber hinters Licht führt.

Stellenmarkt
  1. Softwarearchitekt (m/w/d)
    J.P. Sauer & Sohn Maschinenbau GmbH, Kiel
  2. Cloud-Server-Administrator (m/w/d) Microsoft
    Mainova AG, Frankfurt am Main
Detailsuche

Die Bundesregierung treibt bereits die Sorge um, dass immer mehr solche "gemorphten" Bildkreationen den Weg in die hoheitlichen Papiere finden. Sie hat daher Anfang Juni einen Gesetzentwurf auf den Weg gebracht, wonach Fotos für Personalausweise und Reisepässe künftig manipulationssicher aufgenommen werden müssen.

Bei Tests mit Fotos von Protestkundgebungen, die Golem.de durchführte, wirkten gerade die Personen im Vordergrund teils für das menschliche Auge nicht mehr ganz natürlich. Augen sind etwa deutlich verkleinert, Gesichtszüge etwas verzerrt, teils auch Nasen geplättet. Ein Schönheitswettbewerb lässt sich damit auf jeden Fall nicht mehr gewinnen.

Lösungen zum "Aufhübschen" oder Manipulieren, wie viele Nutzer sie etwa von Snapchat oder Instagram kennen, "sind dafür ausgelegt, nur auf Einzelpersonen und Bildern mit hoher Auflösung zu funktionieren", erläutert Gläser. "Bei uns bietet sich durch die Anforderungen eine ganz andere Komplexität. Dennoch sehen die geschützten Gesichter noch so gut aus, dass auf Fotos Emotionen wahrnehmbar sind."

Golem Akademie
  1. Scrum Product Owner: Vorbereitung auf den PSPO I (Scrum.org): virtueller Zwei-Tage-Workshop
    3.–4. März 2022, virtuell
  2. Java EE 8 Komplettkurs: virtueller Fünf-Tage-Workshop
    24.–28. Januar 2022, virtuell
Weitere IT-Trainings

Bei industriellen Anwendungen auf Basis Künstlicher Intelligenz (KI) wie dem autonomen Fahren oder Datenanalysen in Smart Cities "haben die natürlich anonymisierten Bilddaten auf Grund ihrer hohen Qualität keinerlei negativen Einfluss auf Entwicklung oder Betrieb intelligenter Systeme", führt der Insider aus. Dabei gelte es etwa auszumachen, ob sich eine Person in der Nähe eines Autos befinde und auf die Straße schaue. Eine solche reibungslose Integration der Anonymisierungstechnik sei zuvor mit "schwarzen Balken" oder anderen Formen des Verpixelns nicht möglich gewesen. Wenn eine KI mit derlei Daten trainiert würde, könnten sie einen echten Menschen in freier Wildbahn gar nicht mehr erkennen. Viele Anbieter hätten daher den Datenschutz einfach ignoriert.

Interessierten Nutzern will Brighter AI auf Anfrage über die Firmenwebseite auch einen Zugang zur ProtectPhoto-Lösung etwa per Programmierschnittstelle (API) zur Verfügung stellen. Die zugrundeliegende Software wird ähnlich bereits in der Automobilindustrie und bei der Bahn eingesetzt, wo ebenfalls Bilddaten von Personen im öffentlichen Raum anfallen und anonymisiert werden müssen.

Deepfakes: The Coming Infocalypse

"Komplett neue, künstlich generierte Objekte auf die Gesichter"

Eine Art zweites Gesicht schaffen mit ähnlichen Verschleierungsalgorithmen auch die Algorithmen von Fawkes aus den USA oder D-ID aus Israel. Den technischen Unterbau dazu liefern Generative Adversarial Networks (GANs) in Form neuronaler Netze, die ein Nullsummenspiel durchführen und sich dabei gegenseitig auszutricksen versuchen. Sie sind also bestrebt, Ergebnisse zu erzeugen, die das zweite Netzwerk nicht unterscheiden kann. GNAs werden oft herangezogen, um über photorealistische Bilder Gegenstände zu visualisieren, Bewegungsmuster in Videos darzustellen oder 3D-Modelle von Objekten zu erstellen.

Im Gegensatz zu Systemen der Konkurrenz "nehmen wir keine Mikroveränderungen an den Gesichtern vor, sondern legen komplett neue, künstlich generierte Objekte auf die Gesichter", verweist Gläser dabei auf einen wichtigen Unterschied. Dadurch handle es sich nicht um eine Systematik, die von einer besser werdenden Gesichtserkennung "geknackt" werden könne.

Nachweis durch Audits von Datenschützern

"Bei uns ist es sogar umgekehrt", macht der Gründer klar. "Je besser die Gesichtserkennung wird, desto seltener gibt es unsichere 'Matches' von Personen." Algorithmen könnten Personen zwar auch teils schon anhand anderer Eigenschaften wie dem Gang identifizieren. Der Stand der Technik liege hier aber noch weit hinter dem bei der Gesichtserkennung zurück. Dennoch habe Brighter AI solche Entwicklungen auf dem Radar und bereite dazu bereits "weiterführende Forschungen" vor.

Der Nachweis, dass durch das Verfahren tatsächlich gängige Gesichtserkennungssysteme überlistet werden können, ist laut Gläser insbesondere durch Audits von Datenschützern großer Kunden, Behörden und Investoren erbracht. Darüber hinaus werde die Technik kontinuierlich anhand von Lösungen wie Microsoft Azure Facial Recognition und einschlägigen Open-Source-Systemen validiert.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 ProtectPhoto: Gesichtserkennung bei Gruppenfotos technisch austricksen
  1.  
  2. 1
  3. 2


theSens 06. Nov 2020

i++ Kann ich da nur sagen :D

Karmageddon 03. Nov 2020

Wenn es jetzt einen Algorithmus gibt, der die jetzigen Gesichtserkennungsalgorithmen...

WalterSobchak 02. Nov 2020

Ist das was falsch verlinkt worden?

Seraphim 30. Okt 2020

Hab mir spontan mal das Ergebnis bei nem zufällig gewählten Gruppenfoto angeschaut. Bei...

marc_h 30. Okt 2020

Alles getestet ihr könnt uns vertrauen! Neee rausgeben können wir die Software nicht...



Aktuell auf der Startseite von Golem.de
Bundesservice Telekommunikation  
Ist eine scheinexistente Behörde für Wikipedia relevant?

Die IT-Sicherheitsexpertin Lilith Wittmann hat eine dubiose Bundesbehörde ohne Budget entdeckt. Reicht das für einen Wikipedia-Artikel?

Bundesservice Telekommunikation: Ist eine scheinexistente Behörde für Wikipedia relevant?
Artikel
  1. Elektroauto: VW e-Up ab Mitte Februar wieder bestellbar
    Elektroauto
    VW e-Up ab Mitte Februar wieder bestellbar

    Der e-Up gehörte 2021 zu den meistgekauften Elektroautos. Nun will VW den Kleinwagen wieder verfügbar machen.

  2. Bitcoin, Ethereum: Was steuerlich bei Kryptowährungen gilt
    Bitcoin, Ethereum
    Was steuerlich bei Kryptowährungen gilt

    Kryptowährungen wie Bitcoin sind unter Anlegern beliebt - doch wie muss man die Gewinne eigentlich versteuern?

  3. Neues Geschäftsmodell: Luca-App plant flexible Abos und will Preise senken
    Neues Geschäftsmodell
    Luca-App plant flexible Abos und will Preise senken

    Angesichts drohender Kündigungen will die Luca-App den Bundesländern entgegenkommen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Bosch Professional zu Bestpreisen • WSV bei MediaMarkt • Asus Vivobook Flip 14" 8GB 512GB SSD 567€ • Philips OLED 65" Ambilight 1.699€ • RX 6900 16GB 1.489€ • Samsung QLED-TVs günstiger • Asus Gaming-Notebook 17“ R9 RTX3060 1.599€ • Seagate 20TB SATA HDD [Werbung]
    •  /