Reverse Engineering: Facebook will Deep Fakes erkennen und zurückverfolgen

Echte Bilder haben Eigenschaften, die etwa die genutzte Kamera verraten. Facebook will Ähnliches nun auch bei Deep-Fake-Bildern erkennen können.

Artikel veröffentlicht am ,
Facebook will Deep Fakes besser erkennen können.
Facebook will Deep Fakes besser erkennen können. (Bild: Martin Wolf / Golem.de)

Das KI-Team von Facebook hat in Zusammenarbeit mit der Michigan State University einen Forschungsansatz "zum Erkennen und Zuordnen von Deep Fakes" vorgestellt, der auf "Reverse Engineering von einem einzelnen KI-generierten Bild zum generativen Modell basiert". Dies soll es ermöglichen, Deep Fakes in ihrer realen Umgebung zu erkennen und zurückzuverfolgen, insbesondere in Situationen, in denen das Bild die einzige verfügbare Information ist.

Stellenmarkt
  1. Projektleiter Entwicklung Infotainment (m/w/d)
    Hays AG, Wolfsburg
  2. Requirements Engineer als Business Analyst (w/m/d)
    EnBW Energie Baden-Württemberg AG, Biberach, Karlsruhe, Köln, Stuttgart
Detailsuche

Laut Facebook beschränken sich bisherige Diskussionen darauf herauszufinden, ob ein Bild echt ist oder als Deep Fake erzeugt wurde. Dabei wird jedoch oft schlicht mit bekannten Deep-Learning-Modellen gearbeitet oder gar mit dem Wissen über die zum Training genutzten Ausgangsbilder. Sollen aber beliebige Bilder als Deep Fake erkannt werden, helfen diese Ansätze eben nicht mehr weiter.

Bei dem von den Forschern verfolgten Ansatz handelt es sich um sogenanntes Reverse Engineering, das darauf gerichtet sei, die "einzigartigen Muster hinter dem KI-Modell aufzudecken, das verwendet wird, um ein einzelnes Deepfake-Bild zu generieren". Beim Vergleich mehrerer Bilder könne außerdem festgestellt werden, ob diese möglicherweise mit dem gleichen Modell erstellt worden sind.

Modelle haben Fingerabdrücke

Das Team setzt dabei zunächst auf das Erkennen sogenannter Fingerabdrücke. Diese finden sich so ähnlich auch in nicht-generierten Bildern, die etwa das genutzten Kameramodell oder auch den Sensor verraten. Solche einzigartigen Muster im Bild hinterlassen laut den Forschern aber auch die generativen Machine-Learning-Modelle, die die Deep Fakes erzeugen.

Tolle Technik-Deals und viele weitere Schnäppchen
Golem Akademie
  1. IT-Fachseminare der Golem Akademie
    Live-Workshops zu Schlüsselqualifikationen
  2. 1:1-Videocoaching mit Golem Shifoo
    Berufliche Herausforderungen meistern
  3. Online-Sprachkurse mit Golem & Gymglish
    Kurze Lektionen, die funktionieren
Weitere IT-Trainings

Der verfolgte Ansatz versucht darüber hinaus, aus den Fingerabdrücken einzelne Eigenschaften der tatsächlich genutzten Modelle abzuleiten, um etwa auf deren Netzwerkgröße und damit auf deren Architektur zu schließen. Diese unterscheidet sich bei verschiedenen Modellen, so dass diese erkannt und auseinander gehalten werden können sollen. In ersten Versuchen funktioniert das laut der Erklärung bereits.

Facebook hofft mit seiner Forschung, Werkzeuge für auch für Dritte zu erstellen, "um Vorfälle koordinierter Desinformation mithilfe von Deep Fakes besser zu untersuchen und neue Richtungen für die zukünftige Forschung zu eröffnen".

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Elon Musk
Tesla Model S bekommt ausschließlich Knight-Rider-Lenkrad

Elon Musk hat klargestellt, dass es für das Model S und das Model X kein normales Lenkrad mehr geben wird. Das D-förmige Lenkrad ist Pflicht.

Elon Musk: Tesla Model S bekommt ausschließlich Knight-Rider-Lenkrad
Artikel
  1. Loongson 3A5000: Chinesische Quadcore-CPU mit eigenem Befehlssatz
    Loongson 3A5000
    Chinesische Quadcore-CPU mit eigenem Befehlssatz

    50 Prozent schneller als der Vorgänger-Chip und dabei sparsamer: Der 3A5000 mit LoongArch-Technik stellt einen wichtigen Umbruch dar.

  2. Probefahrt mit EQS: Mercedes schüttelt Tesla ab, aber nicht die Klimakrise
    Probefahrt mit EQS
    Mercedes schüttelt Tesla ab, aber nicht die Klimakrise

    Der neue EQS von Mercedes-Benz widerlegt die Argumente vieler Elektroauto-Gegner. Auch die Komforttüren gefallen uns.
    Ein Bericht von Friedhelm Greis

  3. Förderprogramm: Bund will Fachkräfte für Akkuindustrie ausbilden lassen
    Förderprogramm
    Bund will Fachkräfte für Akkuindustrie ausbilden lassen

    Die Aus- und Weiterbildung für Fachleute im Bereich Akkuproduktion und -entwicklung wird mit 40 Millionen Euro aus der Staatskasse gefördert.


  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • 30% Rabatt auf Amazon Warehouse • ASUS TUF VG279QM 280 Hz 306,22€ • Fractal Design Meshify C Mini 69,90€ • Acer Nitro XF243Y 165Hz OC ab 169€ • Samsung C24RG54FQR 125€ • EA-Promo bei Gamesplanet • Alternate (u. a. Fractal Design Define S2 106,89€) • Roccat Horde Aimo 49€ [Werbung]
    •  /