Deep Fakes: Microsofts Software soll Fälschungen erkennen

Die KI erkennt Deep Fakes in Videos und auf Fotos. Laut Microsoft ist solch eine Lösung für die "Verteidigung der Demokratie" wichtig.

Artikel veröffentlicht am ,
Microsoft entwickelt KI, um Fälschungen zu erkennen.
Microsoft entwickelt KI, um Fälschungen zu erkennen. (Bild: Microsoft)

Microsoft arbeitet an einer Software, die Deep Fakes auch dann erkennen soll, wenn dies für das menschliche Auge kaum noch möglich ist. Der Video Authenticator analysiert Fotos und Videos auf mögliche Manipulationen. "Was wir heute ankündigen, ist ein wichtiger Schritt von Microsofts Programm zur Verteidigung der Demokratie", schreiben der Leiter für Kundensicherheit Tom Burt und der Chief Scientific Officer Eric Horvitz.

Stellenmarkt
  1. Test-Engineer (m/w/d) in der Medizintechnik
    Medtron AG, Saarbrücken
  2. Softwareentwickler (m/w/d) C++ Kommunikations-Framework
    Bertrandt Ingenieurbüro GmbH, München
Detailsuche

Der Video Authenticator erreicht Ergebnisse, indem das Programm nach den Übergängen von ursprünglichem und nachträglich eingesetztem Bildmaterial untersucht. Das können mit dem bloßen Auge kaum erkennbare Graustufen- oder Bildschärfeunterschiede sein, die für aktuelle Deep-Fakes-Methoden noch typisch sind. Trainiert wurde die Software an den Datensätzen Faceforensics++ und dem Deep Fake Detection Challenge Dataset, welche beide für die Entwicklung von Gegenmaßnahmen entworfen und zusammengestellt wurden.

Rennen gegen immer bessere Deep Fakes

Microsoft ist dabei wohl klar, dass sich Fälschungsmethoden schnell so weiterentwickeln werden, dass das vorgestellte Programm diese nicht mehr erkennen kann. Daher hat sich das Unternehmen vorgenommen, in diesem Bereich weiter zu forschen.

Parallel wird auch ein Produkt für die Cloud-Plattform Azure entwickelt. Dieses besteht aus zwei Komponenten. Zunächst können Kunden ihre Inhalte mit Hashes und digitalen Zertifikaten erstellen. Ein dazu passendes Lesetool - etwa in Form einer Browsererweiterung - prüft diese Zertifikate und Hashwerte und gibt aus, ob der Inhalt authentisch ist oder gefälscht wurde.

Golem Akademie
  1. Webentwicklung mit React and Typescript: virtueller Fünf-Halbtage-Workshop
    6.–10. Dezember 2021, Virtuell
  2. Kotlin für Java-Entwickler: virtueller Zwei-Tage-Workshop
    14.–15. Oktober 2021, Virtuell
Weitere IT-Trainings

Auch Facebook arbeitet an Machine-Learning-Systemen, die Deep Fakes erkennen sollen. Dabei wurde ein Wettbewerb abgehalten, bei dem einige Lösungen entwickelt wurden. In einem Black-Box-Test waren die Ergebnisse und eine Genauigkeit von 65,18 Prozent bisher aber noch nicht ausreichend gut.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Geforce Now (RTX 3080) im Test
1440p120 mit Raytracing aus der Cloud

Höhere Auflösung, mehr Bilder pro Sekunde, kürzere Latenzen: Geforce Now mit virtueller Geforce RTX 3080 ist Cloud-Gaming par excellence.
Ein Test von Marc Sauter

Geforce Now (RTX 3080) im Test: 1440p120 mit Raytracing aus der Cloud
Artikel
  1. Encrochat-Hack: Damit würde man keinen Geschwindigkeitsverstoß verurteilen
    Encrochat-Hack
    "Damit würde man keinen Geschwindigkeitsverstoß verurteilen"

    Der Anwalt Johannes Eisenberg hat sich die Daten aus dem Encrochat-Hack genauer angesehen und viel Merkwürdiges entdeckt.
    Ein Interview von Moritz Tremmel

  2. 470 bis 694 MHz: Rundfunk will Frequenzen mit 5G-Broadcast weiter nutzen
    470 bis 694 MHz
    Rundfunk will Frequenzen mit 5G-Broadcast weiter nutzen

    Öffentlich-rechtliche und private TV-Anbieter wollen eine langfristige Perspektive für das UHF-Band.

  3. Gigafactory Grünheide: Tesla rekrutiert hauptsächlich regionale Arbeitskräfte
    Gigafactory Grünheide
    Tesla rekrutiert hauptsächlich regionale Arbeitskräfte

    Entgegen den Befürchtungen der Gegner profitieren vor allem Berlin und Brandenburg von Teslas neuer Fabrik in Brandenburg.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Gaming-Monitore zu Bestpreisen (u. a. Samsung G9 49" 32:9 Curved QLED 240Hz 1.149€) • Spiele günstiger: PC, PS5, Xbox, Switch • Zurück in die Zukunft Trilogie 4K 31,97€ • be quiet 750W-PC-Netzteil 87,90€ • Cambridge Audio Melomonia Touch 89,95€ • Gaming-Stühle zu Bestpreisen [Werbung]
    •  /