• IT-Karriere:
  • Services:

Deep Fakes: Microsofts Software soll Fälschungen erkennen

Die KI erkennt Deep Fakes in Videos und auf Fotos. Laut Microsoft ist solch eine Lösung für die "Verteidigung der Demokratie" wichtig.

Artikel veröffentlicht am ,
Microsoft entwickelt KI, um Fälschungen zu erkennen.
Microsoft entwickelt KI, um Fälschungen zu erkennen. (Bild: Microsoft)

Microsoft arbeitet an einer Software, die Deep Fakes auch dann erkennen soll, wenn dies für das menschliche Auge kaum noch möglich ist. Der Video Authenticator analysiert Fotos und Videos auf mögliche Manipulationen. "Was wir heute ankündigen, ist ein wichtiger Schritt von Microsofts Programm zur Verteidigung der Demokratie", schreiben der Leiter für Kundensicherheit Tom Burt und der Chief Scientific Officer Eric Horvitz.

Stellenmarkt
  1. AKDB Anstalt für kommunale Datenverarbeitung in Bayern, Regensburg
  2. Paracelsus-Klinik Golzheim, Düsseldorf

Der Video Authenticator erreicht Ergebnisse, indem das Programm nach den Übergängen von ursprünglichem und nachträglich eingesetztem Bildmaterial untersucht. Das können mit dem bloßen Auge kaum erkennbare Graustufen- oder Bildschärfeunterschiede sein, die für aktuelle Deep-Fakes-Methoden noch typisch sind. Trainiert wurde die Software an den Datensätzen Faceforensics++ und dem Deep Fake Detection Challenge Dataset, welche beide für die Entwicklung von Gegenmaßnahmen entworfen und zusammengestellt wurden.

Rennen gegen immer bessere Deep Fakes

Microsoft ist dabei wohl klar, dass sich Fälschungsmethoden schnell so weiterentwickeln werden, dass das vorgestellte Programm diese nicht mehr erkennen kann. Daher hat sich das Unternehmen vorgenommen, in diesem Bereich weiter zu forschen.

Parallel wird auch ein Produkt für die Cloud-Plattform Azure entwickelt. Dieses besteht aus zwei Komponenten. Zunächst können Kunden ihre Inhalte mit Hashes und digitalen Zertifikaten erstellen. Ein dazu passendes Lesetool - etwa in Form einer Browsererweiterung - prüft diese Zertifikate und Hashwerte und gibt aus, ob der Inhalt authentisch ist oder gefälscht wurde.

Auch Facebook arbeitet an Machine-Learning-Systemen, die Deep Fakes erkennen sollen. Dabei wurde ein Wettbewerb abgehalten, bei dem einige Lösungen entwickelt wurden. In einem Black-Box-Test waren die Ergebnisse und eine Genauigkeit von 65,18 Prozent bisher aber noch nicht ausreichend gut.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Spiele-Angebote
  1. 20,49€
  2. 77,97€ (Release 19.11.)

chefin 03. Sep 2020 / Themenstart

Vor der Internetzeit gabs keine wirklich Anonymität. Wer etwas zu sagen hatte konnte das...

kazhar 02. Sep 2020 / Themenstart

Das ist doch genau die Idee, wie maschinelles "Lernen" funktioniert: man lässt den...

Kommentieren


Folgen Sie uns
       


    •  /