Deepfakes sollen ausgeschlossen werden

"Wir wollen ausschließen, dass es zu einer Verwechslung mit Deepfakes kommt", begründet der Firmenchef die begrenzte Funktionalität in der öffentlichen Gratisversion. Dabei würden ähnliche Basistechnologien zur bewussten Manipulation etwa politischer Inhalte missbraucht. Zugleich will Brighter AI so offenbar auch verhindern, dass sich Passfotos herstellen lassen, bei denen das künstlich erzeugte Bild zwar optisch dem des Inhabers des Ausweisdokuments ähnelt, automatische Gesichtserkennung aber hinters Licht führt.

Stellenmarkt
  1. ERP-Berater im militärischen Bereich (gn)
    ESG Elektroniksystem- und Logistik-GmbH, Koblenz
  2. Verwaltungsmitarbeiter als Fachberater SGB IX (m/w/d)
    KVJS - Kommunalverband für Jugend und Soziales Baden-Württemberg, Karlsruhe
Detailsuche

Die Bundesregierung treibt bereits die Sorge um, dass immer mehr solche "gemorphten" Bildkreationen den Weg in die hoheitlichen Papiere finden. Sie hat daher Anfang Juni einen Gesetzentwurf auf den Weg gebracht, wonach Fotos für Personalausweise und Reisepässe künftig manipulationssicher aufgenommen werden müssen.

Bei Tests mit Fotos von Protestkundgebungen, die Golem.de durchführte, wirkten gerade die Personen im Vordergrund teils für das menschliche Auge nicht mehr ganz natürlich. Augen sind etwa deutlich verkleinert, Gesichtszüge etwas verzerrt, teils auch Nasen geplättet. Ein Schönheitswettbewerb lässt sich damit auf jeden Fall nicht mehr gewinnen.

Lösungen zum "Aufhübschen" oder Manipulieren, wie viele Nutzer sie etwa von Snapchat oder Instagram kennen, "sind dafür ausgelegt, nur auf Einzelpersonen und Bildern mit hoher Auflösung zu funktionieren", erläutert Gläser. "Bei uns bietet sich durch die Anforderungen eine ganz andere Komplexität. Dennoch sehen die geschützten Gesichter noch so gut aus, dass auf Fotos Emotionen wahrnehmbar sind."

Bei industriellen Anwendungen auf Basis Künstlicher Intelligenz (KI) wie dem autonomen Fahren oder Datenanalysen in Smart Cities "haben die natürlich anonymisierten Bilddaten auf Grund ihrer hohen Qualität keinerlei negativen Einfluss auf Entwicklung oder Betrieb intelligenter Systeme", führt der Insider aus. Dabei gelte es etwa auszumachen, ob sich eine Person in der Nähe eines Autos befinde und auf die Straße schaue. Eine solche reibungslose Integration der Anonymisierungstechnik sei zuvor mit "schwarzen Balken" oder anderen Formen des Verpixelns nicht möglich gewesen. Wenn eine KI mit derlei Daten trainiert würde, könnten sie einen echten Menschen in freier Wildbahn gar nicht mehr erkennen. Viele Anbieter hätten daher den Datenschutz einfach ignoriert.

Interessierten Nutzern will Brighter AI auf Anfrage über die Firmenwebseite auch einen Zugang zur ProtectPhoto-Lösung etwa per Programmierschnittstelle (API) zur Verfügung stellen. Die zugrundeliegende Software wird ähnlich bereits in der Automobilindustrie und bei der Bahn eingesetzt, wo ebenfalls Bilddaten von Personen im öffentlichen Raum anfallen und anonymisiert werden müssen.

Deepfakes: The Coming Infocalypse

"Komplett neue, künstlich generierte Objekte auf die Gesichter"

Eine Art zweites Gesicht schaffen mit ähnlichen Verschleierungsalgorithmen auch die Algorithmen von Fawkes aus den USA oder D-ID aus Israel. Den technischen Unterbau dazu liefern Generative Adversarial Networks (GANs) in Form neuronaler Netze, die ein Nullsummenspiel durchführen und sich dabei gegenseitig auszutricksen versuchen. Sie sind also bestrebt, Ergebnisse zu erzeugen, die das zweite Netzwerk nicht unterscheiden kann. GNAs werden oft herangezogen, um über photorealistische Bilder Gegenstände zu visualisieren, Bewegungsmuster in Videos darzustellen oder 3D-Modelle von Objekten zu erstellen.

Im Gegensatz zu Systemen der Konkurrenz "nehmen wir keine Mikroveränderungen an den Gesichtern vor, sondern legen komplett neue, künstlich generierte Objekte auf die Gesichter", verweist Gläser dabei auf einen wichtigen Unterschied. Dadurch handle es sich nicht um eine Systematik, die von einer besser werdenden Gesichtserkennung "geknackt" werden könne.

Nachweis durch Audits von Datenschützern

"Bei uns ist es sogar umgekehrt", macht der Gründer klar. "Je besser die Gesichtserkennung wird, desto seltener gibt es unsichere 'Matches' von Personen." Algorithmen könnten Personen zwar auch teils schon anhand anderer Eigenschaften wie dem Gang identifizieren. Der Stand der Technik liege hier aber noch weit hinter dem bei der Gesichtserkennung zurück. Dennoch habe Brighter AI solche Entwicklungen auf dem Radar und bereite dazu bereits "weiterführende Forschungen" vor.

Der Nachweis, dass durch das Verfahren tatsächlich gängige Gesichtserkennungssysteme überlistet werden können, ist laut Gläser insbesondere durch Audits von Datenschützern großer Kunden, Behörden und Investoren erbracht. Darüber hinaus werde die Technik kontinuierlich anhand von Lösungen wie Microsoft Azure Facial Recognition und einschlägigen Open-Source-Systemen validiert.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 ProtectPhoto: Gesichtserkennung bei Gruppenfotos technisch austricksen
  1.  
  2. 1
  3. 2


Aktuell auf der Startseite von Golem.de
Neues Betriebssystem von Microsoft
Wir probieren Windows 11 aus

Windows 11 ist bereits im Umlauf. Wir haben die Vorabversion ausprobiert und ein schickes OS durchstöbert. Im Kern ist es aber Windows 10.
Ein Hands-on von Oliver Nickel

Neues Betriebssystem von Microsoft: Wir probieren Windows 11 aus
Artikel
  1. Fußballmanager: Kalypso Media geht bei Anstoss 2022 vom Platz
    Fußballmanager
    Kalypso Media geht bei Anstoss 2022 vom Platz

    Seit Monaten keine Updates, die Community ist sauer. Nun verabschiedet sich Kalypso Media vom Kickstarter-finanzierten Anstoss 2022.

  2. Websicherheit: Wie KenFM von Anonymous gehackt wurde
    Websicherheit
    Wie KenFM von Anonymous gehackt wurde

    Die Webseite AnonLeaks berichtet, wie das Defacement von KenFM ablief: durch abrufbare Backupdaten und das Wordpress-Plugin Duplicator Pro.
    Von Hanno Böck

  3. Rückschau E3 2021: Galaktisch gute Spiele-Aussichten
    Rückschau E3 2021
    Galaktisch gute Spiele-Aussichten

    E3 2021 Es hat sich selten wie eine E3 angefühlt - dennoch haben Spiele- und Hardware-Ankündigungen Spaß gemacht. Meine persönlichen Highlights.
    Von Peter Steinlechner

theSens 06. Nov 2020

i++ Kann ich da nur sagen :D

Karmageddon 03. Nov 2020

Wenn es jetzt einen Algorithmus gibt, der die jetzigen Gesichtserkennungsalgorithmen...

WalterSobchak 02. Nov 2020

Ist das was falsch verlinkt worden?

Seraphim 30. Okt 2020

Hab mir spontan mal das Ergebnis bei nem zufällig gewählten Gruppenfoto angeschaut. Bei...

marc_h 30. Okt 2020

Alles getestet ihr könnt uns vertrauen! Neee rausgeben können wir die Software nicht...


Folgen Sie uns
       


  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • Dualsense Midnight Black + Ratchet & Clank Rift Apart 99,99€ • Saturn Super Sale (u. a. Samsung 65" QLED (2021) 1.294€) • MSI 27" FHD 144Hz 269€ • Razer Naga Pro Gaming-Maus 119,99€ • Apple iPad Pro 12,9" 256GB 909€ [Werbung]
    •  /