Bildforensik: Fraunhofer IOSB entwickelt neue Deepfake-Erkennung
Künstliche Intelligenz erzeugt inzwischen Bilder, die von echten Aufnahmen kaum noch zu unterscheiden sind. Um das Risiko von Deepfakes und Desinformation zu mindern, hat das Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB das Verfahren RealOrRender(öffnet im neuen Fenster) entwickelt. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) fördert das Vorhaben.
Ein hybrider Ansatz kombiniert dabei ein klassisches Deep-Learning-basiertes Klassifikationsverfahren mit einer Methode, die die Rekonstruierbarkeit eines Bildes mithilfe eines generativen Modells prüft. Im ersten Schritt rekonstruiert ein KI-Bildgenerator das Bild. Anschließend berechnet ein KI-Modell bei der Klassifizierung den Rekonstruktionsfehler. Je besser die Rekonstruktion gelingt, desto wahrscheinlicher handelt es sich um ein KI-generiertes Bild.
Fraunhofer verspricht hohe Erkennungsleistung
Diese Kombination soll die Robustheit der Erkennung gegenüber leistungsfähigen Bildgeneratoren deutlich steigern. Die Erkennungsleistung liegt laut eigenen Angaben insgesamt zwischen 85 und 91 Prozent, kann in Einzelfällen aber sogar höher ausfallen. Das System gibt die Erkennungsgenauigkeit in Prozentzahlen an.
Neben der Detektion ist die Nachvollziehbarkeit ein zentrales Ziel. Das Team nutzt Explainable-AI-Methoden (XAI), um sichtbar zu machen, welche Bildbereiche und Strukturen zur Entscheidung des Modells beitragen. Auffällige Texturen oder charakteristische Frequenzmuster geben Hinweise auf synthetisch erzeugte Bilder.
Heatmap-basierte und segmentbasierte Verfahren
Das Team setzt dabei XAI-Verfahren ein, die sich nach ihrem Ausgabeformat in Heatmap-basierte und segmentbasierte Verfahren klassifizieren lassen. Heatmap-basierte Ansätze visualisieren die Intensität und den Beitrag bestimmter Bildbereiche zur Entscheidung. Segmentbasierte Verfahren analysieren zusammenhängende Bildsegmente und zeigen die beteiligten semantischen Regionen.
Nach dem Hochladen eines Bildes zeigt das System das Detektionsergebnis, die Erklärung sowie ein textuelles Resümee an. Zwei veröffentlichte Projektberichte(öffnet im neuen Fenster) fassen die Arbeiten zusammen.
Die Forschungsergebnisse fließen in einen Demonstrator ein, der zunächst das BSI bei der Entlarvung von Deepfakes unterstützt. Davon sollen nicht nur Sicherheits- und Justizbehörden profitieren, sondern auch Betreiber von Social-Media-Plattformen, Medienhäuser und Bildagenturen. Ob auch eine öffentliche Version geplant ist, haben wir beim Fraunhofer IOSB nachgefragt; wir aktualisieren den Artikel bei Antwort.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.