• IT-Karriere:
  • Services:

Deepfakes sollen ausgeschlossen werden

"Wir wollen ausschließen, dass es zu einer Verwechslung mit Deepfakes kommt", begründet der Firmenchef die begrenzte Funktionalität in der öffentlichen Gratisversion. Dabei würden ähnliche Basistechnologien zur bewussten Manipulation etwa politischer Inhalte missbraucht. Zugleich will Brighter AI so offenbar auch verhindern, dass sich Passfotos herstellen lassen, bei denen das künstlich erzeugte Bild zwar optisch dem des Inhabers des Ausweisdokuments ähnelt, automatische Gesichtserkennung aber hinters Licht führt.

Stellenmarkt
  1. Mecklenburgische VERSICHERUNGSGRUPPE, Süd-/Ostdeutschland (Home-Office)
  2. Gemeinschaftswerk Wohnen und Pflege GmbH, Nauen

Die Bundesregierung treibt bereits die Sorge um, dass immer mehr solche "gemorphten" Bildkreationen den Weg in die hoheitlichen Papiere finden. Sie hat daher Anfang Juni einen Gesetzentwurf auf den Weg gebracht, wonach Fotos für Personalausweise und Reisepässe künftig manipulationssicher aufgenommen werden müssen.

Bei Tests mit Fotos von Protestkundgebungen, die Golem.de durchführte, wirkten gerade die Personen im Vordergrund teils für das menschliche Auge nicht mehr ganz natürlich. Augen sind etwa deutlich verkleinert, Gesichtszüge etwas verzerrt, teils auch Nasen geplättet. Ein Schönheitswettbewerb lässt sich damit auf jeden Fall nicht mehr gewinnen.

Lösungen zum "Aufhübschen" oder Manipulieren, wie viele Nutzer sie etwa von Snapchat oder Instagram kennen, "sind dafür ausgelegt, nur auf Einzelpersonen und Bildern mit hoher Auflösung zu funktionieren", erläutert Gläser. "Bei uns bietet sich durch die Anforderungen eine ganz andere Komplexität. Dennoch sehen die geschützten Gesichter noch so gut aus, dass auf Fotos Emotionen wahrnehmbar sind."

Bei industriellen Anwendungen auf Basis Künstlicher Intelligenz (KI) wie dem autonomen Fahren oder Datenanalysen in Smart Cities "haben die natürlich anonymisierten Bilddaten auf Grund ihrer hohen Qualität keinerlei negativen Einfluss auf Entwicklung oder Betrieb intelligenter Systeme", führt der Insider aus. Dabei gelte es etwa auszumachen, ob sich eine Person in der Nähe eines Autos befinde und auf die Straße schaue. Eine solche reibungslose Integration der Anonymisierungstechnik sei zuvor mit "schwarzen Balken" oder anderen Formen des Verpixelns nicht möglich gewesen. Wenn eine KI mit derlei Daten trainiert würde, könnten sie einen echten Menschen in freier Wildbahn gar nicht mehr erkennen. Viele Anbieter hätten daher den Datenschutz einfach ignoriert.

Interessierten Nutzern will Brighter AI auf Anfrage über die Firmenwebseite auch einen Zugang zur ProtectPhoto-Lösung etwa per Programmierschnittstelle (API) zur Verfügung stellen. Die zugrundeliegende Software wird ähnlich bereits in der Automobilindustrie und bei der Bahn eingesetzt, wo ebenfalls Bilddaten von Personen im öffentlichen Raum anfallen und anonymisiert werden müssen.

Deepfakes: The Coming Infocalypse

"Komplett neue, künstlich generierte Objekte auf die Gesichter"

Eine Art zweites Gesicht schaffen mit ähnlichen Verschleierungsalgorithmen auch die Algorithmen von Fawkes aus den USA oder D-ID aus Israel. Den technischen Unterbau dazu liefern Generative Adversarial Networks (GANs) in Form neuronaler Netze, die ein Nullsummenspiel durchführen und sich dabei gegenseitig auszutricksen versuchen. Sie sind also bestrebt, Ergebnisse zu erzeugen, die das zweite Netzwerk nicht unterscheiden kann. GNAs werden oft herangezogen, um über photorealistische Bilder Gegenstände zu visualisieren, Bewegungsmuster in Videos darzustellen oder 3D-Modelle von Objekten zu erstellen.

Im Gegensatz zu Systemen der Konkurrenz "nehmen wir keine Mikroveränderungen an den Gesichtern vor, sondern legen komplett neue, künstlich generierte Objekte auf die Gesichter", verweist Gläser dabei auf einen wichtigen Unterschied. Dadurch handle es sich nicht um eine Systematik, die von einer besser werdenden Gesichtserkennung "geknackt" werden könne.

Nachweis durch Audits von Datenschützern

"Bei uns ist es sogar umgekehrt", macht der Gründer klar. "Je besser die Gesichtserkennung wird, desto seltener gibt es unsichere 'Matches' von Personen." Algorithmen könnten Personen zwar auch teils schon anhand anderer Eigenschaften wie dem Gang identifizieren. Der Stand der Technik liege hier aber noch weit hinter dem bei der Gesichtserkennung zurück. Dennoch habe Brighter AI solche Entwicklungen auf dem Radar und bereite dazu bereits "weiterführende Forschungen" vor.

Der Nachweis, dass durch das Verfahren tatsächlich gängige Gesichtserkennungssysteme überlistet werden können, ist laut Gläser insbesondere durch Audits von Datenschützern großer Kunden, Behörden und Investoren erbracht. Darüber hinaus werde die Technik kontinuierlich anhand von Lösungen wie Microsoft Azure Facial Recognition und einschlägigen Open-Source-Systemen validiert.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 ProtectPhoto: Gesichtserkennung bei Gruppenfotos technisch austricksen
  1.  
  2. 1
  3. 2


Anzeige
Hardware-Angebote
  1. (reduzierte Überstände, Restposten & Co.)

theSens 06. Nov 2020 / Themenstart

i++ Kann ich da nur sagen :D

Karmageddon 03. Nov 2020 / Themenstart

Wenn es jetzt einen Algorithmus gibt, der die jetzigen Gesichtserkennungsalgorithmen...

WalterSobchak 02. Nov 2020 / Themenstart

Ist das was falsch verlinkt worden?

Seraphim 30. Okt 2020 / Themenstart

Hab mir spontan mal das Ergebnis bei nem zufällig gewählten Gruppenfoto angeschaut. Bei...

marc_h 30. Okt 2020 / Themenstart

Alles getestet ihr könnt uns vertrauen! Neee rausgeben können wir die Software nicht...

Kommentieren


Folgen Sie uns
       


Demon's Souls Remake (PS5) - Fazit

Im Testvideo stellt Golem.de das Remake des epischen Fantasy-Rollenspiels Demon's Souls für die Playstation 5 vor.

Demon's Souls Remake (PS5) - Fazit Video aufrufen
Librem Mini v2 im Test: Der kleine Graue mit dem freien Bios
Librem Mini v2 im Test
Der kleine Graue mit dem freien Bios

Der neue Librem Mini eignet sich nicht nur perfekt für Linux, sondern hat als einer von ganz wenigen Rechnern die freie Firmware Coreboot und einen abgesicherten Bootprozess.
Ein Test von Moritz Tremmel

  1. Purism Neuer Librem Mini mit Comet Lake
  2. Librem 14 Purism-Laptops bekommen 6 Kerne und 14-Zoll-Display
  3. Librem Mini Purism bringt NUC-artigen Mini-PC

CoD, Crysis, Dirt 5, Watch Dogs, WoW: Radeon-Raytracing kann auch schnell sein
CoD, Crysis, Dirt 5, Watch Dogs, WoW
Radeon-Raytracing kann auch schnell sein

Wer mit Raytracing zockt, hat je nach Titel mit einer Radeon RX 6800 statt einer Geforce RTX 3070 teilweise die besseren (Grafik-)Karten.
Ein Test von Marc Sauter


    PC-Hardware: Warum Grafikkarten derzeit schlecht lieferbar sind
    PC-Hardware
    Warum Grafikkarten derzeit schlecht lieferbar sind

    Eine RTX 3000 oder eine RX 6000 zu bekommen, ist schwierig: Eine hohe Nachfrage trifft auf Engpässe - ohne Entspannung in Sicht.
    Eine Analyse von Marc Sauter

    1. Instinct MI100 AMDs erster CDNA-Beschleuniger ist extrem schnell
    2. Hardware-accelerated GPU Scheduling Besseres VRAM-Management unter Windows 10

      •  /