Reverse Engineering: Facebook will Deep Fakes erkennen und zurückverfolgen

Echte Bilder haben Eigenschaften, die etwa die genutzte Kamera verraten. Facebook will Ähnliches nun auch bei Deep-Fake-Bildern erkennen können.

Artikel veröffentlicht am ,
Facebook will Deep Fakes besser erkennen können.
Facebook will Deep Fakes besser erkennen können. (Bild: Martin Wolf / Golem.de)

Das KI-Team von Facebook hat in Zusammenarbeit mit der Michigan State University einen Forschungsansatz "zum Erkennen und Zuordnen von Deep Fakes" vorgestellt, der auf "Reverse Engineering von einem einzelnen KI-generierten Bild zum generativen Modell basiert". Dies soll es ermöglichen, Deep Fakes in ihrer realen Umgebung zu erkennen und zurückzuverfolgen, insbesondere in Situationen, in denen das Bild die einzige verfügbare Information ist.

Stellenmarkt
  1. Produktberater mit Schwerpunkt Dokumenten-Management (m/w/d)
    Stiftung Kirchliches Rechenzentrum Südwestdeutschland, Eggenstein-Leopoldshafen
  2. Head (m/w/d) of Software Development
    Körber Pharma Packaging GmbH, Schloß Holte-Stukenbrock
Detailsuche

Laut Facebook beschränken sich bisherige Diskussionen darauf herauszufinden, ob ein Bild echt ist oder als Deep Fake erzeugt wurde. Dabei wird jedoch oft schlicht mit bekannten Deep-Learning-Modellen gearbeitet oder gar mit dem Wissen über die zum Training genutzten Ausgangsbilder. Sollen aber beliebige Bilder als Deep Fake erkannt werden, helfen diese Ansätze eben nicht mehr weiter.

Bei dem von den Forschern verfolgten Ansatz handelt es sich um sogenanntes Reverse Engineering, das darauf gerichtet sei, die "einzigartigen Muster hinter dem KI-Modell aufzudecken, das verwendet wird, um ein einzelnes Deepfake-Bild zu generieren". Beim Vergleich mehrerer Bilder könne außerdem festgestellt werden, ob diese möglicherweise mit dem gleichen Modell erstellt worden sind.

Modelle haben Fingerabdrücke

Das Team setzt dabei zunächst auf das Erkennen sogenannter Fingerabdrücke. Diese finden sich so ähnlich auch in nicht-generierten Bildern, die etwa das genutzten Kameramodell oder auch den Sensor verraten. Solche einzigartigen Muster im Bild hinterlassen laut den Forschern aber auch die generativen Machine-Learning-Modelle, die die Deep Fakes erzeugen.

Hohe Rabatte bei den Amazon Blitzangeboten
Golem Karrierewelt
  1. C++ Programmierung Basics: virtueller Fünf-Tage-Workshop
    05.-09.09.2022, virtuell
  2. Kubernetes – das Container Orchestration Framework: virtueller Vier-Tage-Workshop
    11.-14.07.2022, Virtuell
Weitere IT-Trainings

Der verfolgte Ansatz versucht darüber hinaus, aus den Fingerabdrücken einzelne Eigenschaften der tatsächlich genutzten Modelle abzuleiten, um etwa auf deren Netzwerkgröße und damit auf deren Architektur zu schließen. Diese unterscheidet sich bei verschiedenen Modellen, so dass diese erkannt und auseinander gehalten werden können sollen. In ersten Versuchen funktioniert das laut der Erklärung bereits.

Facebook hofft mit seiner Forschung, Werkzeuge für auch für Dritte zu erstellen, "um Vorfälle koordinierter Desinformation mithilfe von Deep Fakes besser zu untersuchen und neue Richtungen für die zukünftige Forschung zu eröffnen".

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
US-Streaming
Abonnenten immer unzufriedener mit Netflix

Wenn Netflix-Abonnenten das Abo kündigen, wird vor allem der hohe Preis sowie ein schlechtes Preis-Leistungs-Verhältnis als Grund dafür genannt.

US-Streaming: Abonnenten immer unzufriedener mit Netflix
Artikel
  1. Elektro-SUV: Drako Dragon soll Teslas Model X Plaid deutlich übertreffen
    Elektro-SUV
    Drako Dragon soll Teslas Model X Plaid deutlich übertreffen

    Das Elektroauto Drako Dragon soll mit seinen vier Motoren eine Leistung von 1.470 kW entwickeln und 320 km/h Spitze fahren.

  2. Evari 856: Minimalistisches E-Bike mit Monocoque-Rahmen und Titan
    Evari 856
    Minimalistisches E-Bike mit Monocoque-Rahmen und Titan

    Evari 856 heißt das E-Bike, das mit einem Monocoque-Rahmen aus Carbon ausgestattet ist. Dadurch soll es besonders leicht und stabil sein.

  3. Machine Learning: Die eigene Stimme als TTS-Modell
    Machine Learning
    Die eigene Stimme als TTS-Modell

    Mit Machine Learning kann man ein lokal lauffähiges und hochwertiges TTS-Modell der eigenen Stimme herstellen. Dauert das lange? Ja. Braucht man das? Nein. Ist das absolut nerdig? Definitv!
    Eine Anleitung von Thorsten Müller

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • MSI RTX 3080 Ti Ventus 3X 12G OC 1.049€ • Alternate (u. a. Corsair Vengeance LPX 32 GB DDR4-3600 106,89€) • be quiet! Pure Rock 2 26,99€ • SanDisk microSDXC 400 GB 29€ • The Quarry + PS5-Controller 99,99€ • Samsung Galaxy Watch 3 119€ • Top-PC mit Ryzen 7 & RTX 3070 Ti 1.700€ [Werbung]
    •  /