• IT-Karriere:
  • Services:

Von Quatsch bis Putsch

Viele Experten beruhigten sich lange, dass die Technologie, die für die Erstellung tatsächlich überzeugend aussehender Deep Fakes nötig ist, für viele Laien noch zu voraussetzungsreich ist. Im Spätsommer tauchte dann aber in sozialen Netzwerken ein Video auf, das plötzlich infrage stellt, ob dem wirklich so ist. In dem kurzen Clip demonstrierte ein Designer, was die chinesische App Zao kann. Ein Schnappschuss, wenige Sekunden Zeitaufwand - und schon montiert die App das Gesicht ihres Nutzers auf die Köpfe von Schauspielern wie Leonardo DiCaprio oder Kit Harington in bekannten Film- und Fernsehszenen. Eine Demonstration, dass nun praktisch jeder Deep Fakes anfertigen kann?

14.200 Nutzer sprechen darüber

Stellenmarkt
  1. ADG Apotheken-Dienstleistungsgesellschaft mbH, Mannheim
  2. ARNOLD IT Systems GmbH & Co. KG, Freiburg

Einerseits kann man sagen: Nach allem, was man sehen kann, vermag diese App zwar Mimik aus Bewegtbildern kopieren - aber weder künstliche Aussagen noch Gesichtsausdrücke so erzeugen, dass Menschen fremde Aussagen untergeschoben werden könnten, nur nachgehampeln, was in ausgewählten Filmszenen vorgespielt wurde. Hao Li hingegen sieht die App als Beleg dafür, dass die Technologie viel schneller überzeugende Ergebnisse produziert, als er und andere Wissenschaftler ursprünglich angenommen haben.

Wer verstehen will, wie rasant diese Entwicklung vonstatten geht, muss sich vor Augen führen, wie jung die Technologie hinter den Deep Fakes noch ist: Erst 2014 entwickelte der junge Informatiker Ian Goodfellow General Adversarial Networks, kurz GAN. Sie sind es, die aus mehreren Quellen neue Videos oder Fotos erzeugen können, neue Sprachaufnahmen oder Texte.

Fast alle Deep Fakes sind noch Pornos

Nach einigen Experimenten tauchte dann drei Jahre später das auf, was so ziemlich jede Anwendung in der Geschichte des Internets popularisiert hat: Pornos. Auf der Plattform reddit postete ein Nutzer Videos, in denen die Gesichter von Prominenten auf die Körper von Pornodarstellerinnen hineingerechnet waren. Veröffentlicht unter dem Nutzernamen deepfakes. Die Aufmerksamkeit war groß, der Name für diese Form der Videos gefunden.

Reddit verbannte die Videos schon kurze Zeit später von seiner Plattform. Doch da existierte bereits neue Software, mit der einigermaßen versierte Nutzerinnen und Nutzer bereits einfachere Videos, in denen das Gesicht einer Person durch das einer anderen ersetzt wird, selbst erstellen können. FakeApp heißt die Anwendung. Die Folge: viele gefälschte Unterhaltungsinhalte, aber auch eine Welle von pornografischen Filmen, in die die Gesichter von Schauspielerinnen und Popsternchen hineinmontiert wurden. Auch eine Journalistin wurde bereits mit Hilfe solcher Videos unter Druck gesetzt. Deep Fakes zeigen aber auch oft nicht prominente Frauen in sexualisierten Kontexten.

Tatsächlich handelt es sich auch heute noch bei 96 Prozent aller Deep Fakes, die derzeit im Netz verbreitet werden, um Pornos, zeigt ein Bericht des IT-Sicherheitsunternehmens Deeptrace, das sich auf die manipulierten Inhalte spezialisiert hat.

Einer breiteren Öffentlichkeit sind Deep Fakes aus der Unterhaltungsbranche bekannt. Etwa, als der US-Comedian Bill Hader den Schauspieler Tom Cruise in einem Video imitierte - und sich sein Gesicht dabei vor den Augen des Zuschauers in das von Cruise verwandelt. In einem anderen Video war der ehemalige US-Präsident Barack Obama zu sehen, der seinen Amtsnachfolger Trump scheinbar als Dummkopf bezeichnete - bevor aufgelöst wurde, dass es sich - haha - auch bei diesem Internetvideo um einen Deep Fake handelt. Angefertigt vom US-Komiker Jordan Peele, der vor den Risiken warnen wollte.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Was tun, wenn's trumpt?Putschversuch dank Deep Fake? 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6. 5
  7.  


Anzeige
Hardware-Angebote

polomo 06. Dez 2019

@Hotohori Auch das war schon immer der Fall Das Problem ist, dass Videos früher als...

dark_matter 02. Dez 2019

Aus dem Artikel: "Was aber bringt es am Ende, einen Deep Fake zu erkennen? Viele Probleme...

DieTatsaechlich... 27. Nov 2019

Ein Staatsoberhaupt oder eine Regierung wurden doch bisher nocht nicht durch "Deep Fakes...

Desertdelphin 25. Nov 2019

kwt :D

unbuntu 24. Nov 2019

Halt dich fest, Fotomanipulation gab es schon wenige Jahre, nachdem Fotografie überhaupt...


Folgen Sie uns
       


Disney Plus - Test

Der Streamingdienst Disney Plus wurde am 24. März 2020 endlich auch in Deutschland gestartet. Golem.de hat die Benutzeroberfläche einem Test unterzogen und auch einen Blick auf das Film- und Serienangebot des Netflix-Mitbewerbers geworfen.

Disney Plus - Test Video aufrufen
Kryptographie: Die europäische Geheimdienst-Allianz Maximator
Kryptographie
Die europäische Geheimdienst-Allianz Maximator

Mit der Maximator-Allianz haben fünf europäische Länder einen Gegenpart zu den angelsächsischen Five Eyes geschaffen.
Ein Bericht von Christiane Schulzki-Haddouti

  1. Security Bundestagshacker kopierten Mails aus Merkels Büro
  2. Trumps Smoking Gun Vodafone und Telefónica haben keine Huawei-Hintertür
  3. Sicherheitsforscher Daten durch Änderung der Bildschirmhelligkeit ausleiten

PC-Hardware: Das kann DDR5-Arbeitsspeicher
PC-Hardware
Das kann DDR5-Arbeitsspeicher

Vierfache Kapazität, doppelte Geschwindigkeit: Ein Überblick zum DDR5-Speicher für Server und Desktop-PCs.
Ein Bericht von Marc Sauter


    Materiejets aus schwarzem Loch: Schneller als das Licht?
    Materiejets aus schwarzem Loch
    Schneller als das Licht?

    Das schwarze Loch stößt Materie mit einer Geschwindigkeit aus, die wie Überlichtgeschwindigkeit aussieht.
    Ein Bericht von Andreas Lutter

    1. Oumuamua Ein ganz normal merkwürdiger interstellarer Asteroid

      •  /