Deep Fakes: Microsofts Software soll Fälschungen erkennen
Die KI erkennt Deep Fakes in Videos und auf Fotos. Laut Microsoft ist solch eine Lösung für die "Verteidigung der Demokratie" wichtig.

Microsoft arbeitet an einer Software, die Deep Fakes auch dann erkennen soll, wenn dies für das menschliche Auge kaum noch möglich ist. Der Video Authenticator analysiert Fotos und Videos auf mögliche Manipulationen. "Was wir heute ankündigen, ist ein wichtiger Schritt von Microsofts Programm zur Verteidigung der Demokratie", schreiben der Leiter für Kundensicherheit Tom Burt und der Chief Scientific Officer Eric Horvitz.
Der Video Authenticator erreicht Ergebnisse, indem das Programm nach den Übergängen von ursprünglichem und nachträglich eingesetztem Bildmaterial untersucht. Das können mit dem bloßen Auge kaum erkennbare Graustufen- oder Bildschärfeunterschiede sein, die für aktuelle Deep-Fakes-Methoden noch typisch sind. Trainiert wurde die Software an den Datensätzen Faceforensics++ und dem Deep Fake Detection Challenge Dataset, welche beide für die Entwicklung von Gegenmaßnahmen entworfen und zusammengestellt wurden.
Rennen gegen immer bessere Deep Fakes
Microsoft ist dabei wohl klar, dass sich Fälschungsmethoden schnell so weiterentwickeln werden, dass das vorgestellte Programm diese nicht mehr erkennen kann. Daher hat sich das Unternehmen vorgenommen, in diesem Bereich weiter zu forschen.
Parallel wird auch ein Produkt für die Cloud-Plattform Azure entwickelt. Dieses besteht aus zwei Komponenten. Zunächst können Kunden ihre Inhalte mit Hashes und digitalen Zertifikaten erstellen. Ein dazu passendes Lesetool - etwa in Form einer Browsererweiterung - prüft diese Zertifikate und Hashwerte und gibt aus, ob der Inhalt authentisch ist oder gefälscht wurde.
Auch Facebook arbeitet an Machine-Learning-Systemen, die Deep Fakes erkennen sollen. Dabei wurde ein Wettbewerb abgehalten, bei dem einige Lösungen entwickelt wurden. In einem Black-Box-Test waren die Ergebnisse und eine Genauigkeit von 65,18 Prozent bisher aber noch nicht ausreichend gut.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
- ohne Werbung
- mit ausgeschaltetem Javascript
- mit RSS-Volltext-Feed
Vor der Internetzeit gabs keine wirklich Anonymität. Wer etwas zu sagen hatte konnte das...
Das ist doch genau die Idee, wie maschinelles "Lernen" funktioniert: man lässt den...