Deep Fakes: Microsofts Software soll Fälschungen erkennen

Die KI erkennt Deep Fakes in Videos und auf Fotos. Laut Microsoft ist solch eine Lösung für die "Verteidigung der Demokratie" wichtig.

Artikel veröffentlicht am ,
Microsoft entwickelt KI, um Fälschungen zu erkennen.
Microsoft entwickelt KI, um Fälschungen zu erkennen. (Bild: Microsoft)

Microsoft arbeitet an einer Software, die Deep Fakes auch dann erkennen soll, wenn dies für das menschliche Auge kaum noch möglich ist. Der Video Authenticator analysiert Fotos und Videos auf mögliche Manipulationen. "Was wir heute ankündigen, ist ein wichtiger Schritt von Microsofts Programm zur Verteidigung der Demokratie", schreiben der Leiter für Kundensicherheit Tom Burt und der Chief Scientific Officer Eric Horvitz.

Der Video Authenticator erreicht Ergebnisse, indem das Programm nach den Übergängen von ursprünglichem und nachträglich eingesetztem Bildmaterial untersucht. Das können mit dem bloßen Auge kaum erkennbare Graustufen- oder Bildschärfeunterschiede sein, die für aktuelle Deep-Fakes-Methoden noch typisch sind. Trainiert wurde die Software an den Datensätzen Faceforensics++ und dem Deep Fake Detection Challenge Dataset, welche beide für die Entwicklung von Gegenmaßnahmen entworfen und zusammengestellt wurden.

Rennen gegen immer bessere Deep Fakes

Microsoft ist dabei wohl klar, dass sich Fälschungsmethoden schnell so weiterentwickeln werden, dass das vorgestellte Programm diese nicht mehr erkennen kann. Daher hat sich das Unternehmen vorgenommen, in diesem Bereich weiter zu forschen.

Parallel wird auch ein Produkt für die Cloud-Plattform Azure entwickelt. Dieses besteht aus zwei Komponenten. Zunächst können Kunden ihre Inhalte mit Hashes und digitalen Zertifikaten erstellen. Ein dazu passendes Lesetool - etwa in Form einer Browsererweiterung - prüft diese Zertifikate und Hashwerte und gibt aus, ob der Inhalt authentisch ist oder gefälscht wurde.

Auch Facebook arbeitet an Machine-Learning-Systemen, die Deep Fakes erkennen sollen. Dabei wurde ein Wettbewerb abgehalten, bei dem einige Lösungen entwickelt wurden. In einem Black-Box-Test waren die Ergebnisse und eine Genauigkeit von 65,18 Prozent bisher aber noch nicht ausreichend gut.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Western Australia
Eine radioaktive Kapsel - irgendwo im australischen Outback

Wie eine radioaktive Kapsel in Australien verlorengehen konnte, ob sie gefährlich ist, warum sie so schwierig zu finden war und wofür solche Kapseln gut sind.
Ein Bericht von Werner Pluta

Western Australia: Eine radioaktive Kapsel - irgendwo im australischen Outback
Artikel
  1. Streaming: Netflix zieht Maßnahmen gegen Konten-Sharing zurück
    Streaming
    Netflix zieht Maßnahmen gegen Konten-Sharing zurück

    Netflix wird vorerst wohl doch nichts unternehmen, wenn ein Netflix-Konto unerlaubterweise mit anderen geteilt wird.

  2. T.I.S.P.-zertifizierter Security Professional werden
     
    T.I.S.P.-zertifizierter Security Professional werden

    Das Zertifikat TeleTrusT Information Security Professional (T.I.S.P.) bescheinigt fundierte Kenntnisse auf dem Gebiet der IT-Sicherheit. Ein fünftägiger Online-Workshop der Golem Karrierewelt bereitet auf die Prüfung vor.
    Sponsored Post von Golem Karrierewelt

  3. Microsoft: Bei Xbox Series X/S kommen Preiserhöhungen
    Microsoft
    Bei Xbox Series X/S kommen Preiserhöhungen

    Die Playstation 5 ist schon teurer geworden, nun erhöht Microsoft den Preis der Xbox Series X/S in Japan - andere Regionen könnten folgen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Bis 77% Rabatt auf Fernseher bei Otto • Roccat Kone Pro -56% • Xbox Series S + Dead Space 299,99€ • PCGH Cyber Week • MindStar: ASRock RX 7900 XT 949€ • AMD CPU kaufen, SW Jedi Survivor gratis dazu • Philips LED TV 65" 120 Hz Ambilight 999€ • KF DDR4-3600 32GB 91,89€ [Werbung]
    •  /