• IT-Karriere:
  • Services:

Von Quatsch bis Putsch

Viele Experten beruhigten sich lange, dass die Technologie, die für die Erstellung tatsächlich überzeugend aussehender Deep Fakes nötig ist, für viele Laien noch zu voraussetzungsreich ist. Im Spätsommer tauchte dann aber in sozialen Netzwerken ein Video auf, das plötzlich infrage stellt, ob dem wirklich so ist. In dem kurzen Clip demonstrierte ein Designer, was die chinesische App Zao kann. Ein Schnappschuss, wenige Sekunden Zeitaufwand - und schon montiert die App das Gesicht ihres Nutzers auf die Köpfe von Schauspielern wie Leonardo DiCaprio oder Kit Harington in bekannten Film- und Fernsehszenen. Eine Demonstration, dass nun praktisch jeder Deep Fakes anfertigen kann?

14.200 Nutzer sprechen darüber

Stellenmarkt
  1. Bundeskriminalamt, Meckenheim
  2. websedit AG, Ravensburg

Einerseits kann man sagen: Nach allem, was man sehen kann, vermag diese App zwar Mimik aus Bewegtbildern kopieren - aber weder künstliche Aussagen noch Gesichtsausdrücke so erzeugen, dass Menschen fremde Aussagen untergeschoben werden könnten, nur nachgehampeln, was in ausgewählten Filmszenen vorgespielt wurde. Hao Li hingegen sieht die App als Beleg dafür, dass die Technologie viel schneller überzeugende Ergebnisse produziert, als er und andere Wissenschaftler ursprünglich angenommen haben.

Wer verstehen will, wie rasant diese Entwicklung vonstatten geht, muss sich vor Augen führen, wie jung die Technologie hinter den Deep Fakes noch ist: Erst 2014 entwickelte der junge Informatiker Ian Goodfellow General Adversarial Networks, kurz GAN. Sie sind es, die aus mehreren Quellen neue Videos oder Fotos erzeugen können, neue Sprachaufnahmen oder Texte.

Fast alle Deep Fakes sind noch Pornos

Nach einigen Experimenten tauchte dann drei Jahre später das auf, was so ziemlich jede Anwendung in der Geschichte des Internets popularisiert hat: Pornos. Auf der Plattform reddit postete ein Nutzer Videos, in denen die Gesichter von Prominenten auf die Körper von Pornodarstellerinnen hineingerechnet waren. Veröffentlicht unter dem Nutzernamen deepfakes. Die Aufmerksamkeit war groß, der Name für diese Form der Videos gefunden.

Reddit verbannte die Videos schon kurze Zeit später von seiner Plattform. Doch da existierte bereits neue Software, mit der einigermaßen versierte Nutzerinnen und Nutzer bereits einfachere Videos, in denen das Gesicht einer Person durch das einer anderen ersetzt wird, selbst erstellen können. FakeApp heißt die Anwendung. Die Folge: viele gefälschte Unterhaltungsinhalte, aber auch eine Welle von pornografischen Filmen, in die die Gesichter von Schauspielerinnen und Popsternchen hineinmontiert wurden. Auch eine Journalistin wurde bereits mit Hilfe solcher Videos unter Druck gesetzt. Deep Fakes zeigen aber auch oft nicht prominente Frauen in sexualisierten Kontexten.

Tatsächlich handelt es sich auch heute noch bei 96 Prozent aller Deep Fakes, die derzeit im Netz verbreitet werden, um Pornos, zeigt ein Bericht des IT-Sicherheitsunternehmens Deeptrace, das sich auf die manipulierten Inhalte spezialisiert hat.

Einer breiteren Öffentlichkeit sind Deep Fakes aus der Unterhaltungsbranche bekannt. Etwa, als der US-Comedian Bill Hader den Schauspieler Tom Cruise in einem Video imitierte - und sich sein Gesicht dabei vor den Augen des Zuschauers in das von Cruise verwandelt. In einem anderen Video war der ehemalige US-Präsident Barack Obama zu sehen, der seinen Amtsnachfolger Trump scheinbar als Dummkopf bezeichnete - bevor aufgelöst wurde, dass es sich - haha - auch bei diesem Internetvideo um einen Deep Fake handelt. Angefertigt vom US-Komiker Jordan Peele, der vor den Risiken warnen wollte.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Was tun, wenn's trumpt?Putschversuch dank Deep Fake? 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6. 5
  7.  


Anzeige
Spiele-Angebote
  1. 4,32€
  2. (-66%) 16,99€
  3. 2,49€

polomo 06. Dez 2019 / Themenstart

@Hotohori Auch das war schon immer der Fall Das Problem ist, dass Videos früher als...

dark_matter 02. Dez 2019 / Themenstart

Aus dem Artikel: "Was aber bringt es am Ende, einen Deep Fake zu erkennen? Viele Probleme...

DieTatsaechlich... 27. Nov 2019 / Themenstart

Ein Staatsoberhaupt oder eine Regierung wurden doch bisher nocht nicht durch "Deep Fakes...

unbuntu 24. Nov 2019 / Themenstart

Halt dich fest, Fotomanipulation gab es schon wenige Jahre, nachdem Fotografie überhaupt...

Kommentieren


Folgen Sie uns
       


Galaxy Fold im Test

Das Galaxy Fold ist Samsungs erstes Smartphone mit faltbarem Display. Die Technologie ist spannend, im Alltag nervt uns das ständige Auf- und Zuklappen aber etwas.

Galaxy Fold im Test Video aufrufen
Sendmail: Software aus der digitalen Steinzeit
Sendmail
Software aus der digitalen Steinzeit

Ein nichtöffentliches CVS-Repository, FTP-Downloads, defekte Links, Diskussionen übers Usenet: Der Mailserver Sendmail zeigt alle Anzeichen eines problematischen und in der Vergangenheit stehengebliebenen Softwareprojekts.
Eine Analyse von Hanno Böck

  1. Überwachung Tutanota musste E-Mails vor der Verschlüsselung ausleiten
  2. Buffer Overflow Exim-Sicherheitslücke beim Verarbeiten von TLS-Namen
  3. Sicherheitslücke Buffer Overflow in Dovecot-Mailserver

Weltraumsimulation: Die Star-Citizen-Euphorie ist ansteckend
Weltraumsimulation
Die Star-Citizen-Euphorie ist ansteckend

Jubelnde Massen, ehrliche Entwickler und ein 30 Kilogramm schweres Modell des Javelin-Zerstörers: Die Citizencon 2949 hat gezeigt, wie sehr die Community ihr Star Citizen liebt. Auf der anderen Seite reden Entwickler Klartext, statt Marketing-Floskeln zum Besten zu geben. Das steckt an.
Ein IMHO von Oliver Nickel

  1. Theatres of War angespielt Star Citizen wird zu Battlefield mit Raumschiffen
  2. Star Citizen Mit der Carrack ins neue Sonnensystem
  3. Star Citizen Squadron 42 wird noch einmal verschoben

Echo Dot mit Uhr und Nest Mini im Test: Amazon hängt Google ab
Echo Dot mit Uhr und Nest Mini im Test
Amazon hängt Google ab

Amazon und Google haben ihre kompakten smarten Lautsprecher überarbeitet. Wir haben den Nest Mini mit dem neuen Echo Dot mit Uhr verglichen. Google hat es sichtlich schwer, konkurrenzfähig zu Amazon zu bleiben.
Ein Test von Ingo Pakalski

  1. Digitale Assistenten Amazon verkauft dreimal mehr smarte Lautsprecher als Google
  2. Googles Hardware-Chef Osterloh weist Besuch auf smarte Lautsprecher hin
  3. Telekom Smart Speaker im Test Der smarte Lautsprecher, der mit zwei Zungen spricht

    •  /