Von Quatsch bis Putsch

Viele Experten beruhigten sich lange, dass die Technologie, die für die Erstellung tatsächlich überzeugend aussehender Deep Fakes nötig ist, für viele Laien noch zu voraussetzungsreich ist. Im Spätsommer tauchte dann aber in sozialen Netzwerken ein Video auf, das plötzlich infrage stellt, ob dem wirklich so ist. In dem kurzen Clip demonstrierte ein Designer, was die chinesische App Zao kann. Ein Schnappschuss, wenige Sekunden Zeitaufwand - und schon montiert die App das Gesicht ihres Nutzers auf die Köpfe von Schauspielern wie Leonardo DiCaprio oder Kit Harington in bekannten Film- und Fernsehszenen. Eine Demonstration, dass nun praktisch jeder Deep Fakes anfertigen kann?

14.200 Nutzer sprechen darüber

Stellenmarkt
  1. Softwareentwickler Angular (w/m/d)
    freenet DLS GmbH, Büdelsdorf
  2. SAP Basis Administrator (m/w/x)
    über duerenhoff GmbH, Raum Mannheim (Home-Office)
Detailsuche

Einerseits kann man sagen: Nach allem, was man sehen kann, vermag diese App zwar Mimik aus Bewegtbildern kopieren - aber weder künstliche Aussagen noch Gesichtsausdrücke so erzeugen, dass Menschen fremde Aussagen untergeschoben werden könnten, nur nachgehampeln, was in ausgewählten Filmszenen vorgespielt wurde. Hao Li hingegen sieht die App als Beleg dafür, dass die Technologie viel schneller überzeugende Ergebnisse produziert, als er und andere Wissenschaftler ursprünglich angenommen haben.

Golem Karrierewelt
  1. Deep Dive: Data Architecture mit Spark und Cloud Native: virtueller Ein-Tages-Workshop
    01.02.2023, Virtuell
  2. C++ Programmierung Grundlagen (keine Vorkenntnisse benötigt): virtueller Drei-Tage-Workshop
    07.-09.11.2022, virtuell
Weitere IT-Trainings

Wer verstehen will, wie rasant diese Entwicklung vonstatten geht, muss sich vor Augen führen, wie jung die Technologie hinter den Deep Fakes noch ist: Erst 2014 entwickelte der junge Informatiker Ian Goodfellow General Adversarial Networks, kurz GAN. Sie sind es, die aus mehreren Quellen neue Videos oder Fotos erzeugen können, neue Sprachaufnahmen oder Texte.

Fast alle Deep Fakes sind noch Pornos

Nach einigen Experimenten tauchte dann drei Jahre später das auf, was so ziemlich jede Anwendung in der Geschichte des Internets popularisiert hat: Pornos. Auf der Plattform reddit postete ein Nutzer Videos, in denen die Gesichter von Prominenten auf die Körper von Pornodarstellerinnen hineingerechnet waren. Veröffentlicht unter dem Nutzernamen deepfakes. Die Aufmerksamkeit war groß, der Name für diese Form der Videos gefunden.

Reddit verbannte die Videos schon kurze Zeit später von seiner Plattform. Doch da existierte bereits neue Software, mit der einigermaßen versierte Nutzerinnen und Nutzer bereits einfachere Videos, in denen das Gesicht einer Person durch das einer anderen ersetzt wird, selbst erstellen können. FakeApp heißt die Anwendung. Die Folge: viele gefälschte Unterhaltungsinhalte, aber auch eine Welle von pornografischen Filmen, in die die Gesichter von Schauspielerinnen und Popsternchen hineinmontiert wurden. Auch eine Journalistin wurde bereits mit Hilfe solcher Videos unter Druck gesetzt. Deep Fakes zeigen aber auch oft nicht prominente Frauen in sexualisierten Kontexten.

Tatsächlich handelt es sich auch heute noch bei 96 Prozent aller Deep Fakes, die derzeit im Netz verbreitet werden, um Pornos, zeigt ein Bericht des IT-Sicherheitsunternehmens Deeptrace, das sich auf die manipulierten Inhalte spezialisiert hat.

Einer breiteren Öffentlichkeit sind Deep Fakes aus der Unterhaltungsbranche bekannt. Etwa, als der US-Comedian Bill Hader den Schauspieler Tom Cruise in einem Video imitierte - und sich sein Gesicht dabei vor den Augen des Zuschauers in das von Cruise verwandelt. In einem anderen Video war der ehemalige US-Präsident Barack Obama zu sehen, der seinen Amtsnachfolger Trump scheinbar als Dummkopf bezeichnete - bevor aufgelöst wurde, dass es sich - haha - auch bei diesem Internetvideo um einen Deep Fake handelt. Angefertigt vom US-Komiker Jordan Peele, der vor den Risiken warnen wollte.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Was tun, wenn's trumpt?Putschversuch dank Deep Fake? 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6. 5
  7.  


polomo 06. Dez 2019

@Hotohori Auch das war schon immer der Fall Das Problem ist, dass Videos früher als...

dark_matter 02. Dez 2019

Aus dem Artikel: "Was aber bringt es am Ende, einen Deep Fake zu erkennen? Viele Probleme...

DieTatsaechlich... 27. Nov 2019

Ein Staatsoberhaupt oder eine Regierung wurden doch bisher nocht nicht durch "Deep Fakes...



Aktuell auf der Startseite von Golem.de
Cloudgaming-Dienst
Google schließt Stadia

Google steigt aus dem Cloud-Gaming-Geschäft aus und stellt seinen Dienst Stadia ein. Kunden erhalten ihr Geld zurück.

Cloudgaming-Dienst: Google schließt Stadia
Artikel
  1. Axel-Springer-Chef: Döpfner schlug Musk den Kauf von Twitter vor
    Axel-Springer-Chef
    Döpfner schlug Musk den Kauf von Twitter vor

    "Das wird lustig": Wenige Tage vor seinem Einstieg bei Twitter erhielt Elon Musk eine interessante Nachricht von Axel-Springer-Chef Döpfner.

  2. Flexpoint, Bfloat16, TensorFloat32, FP8: Dank KI zu neuen Gleitkommazahlen
    Flexpoint, Bfloat16, TensorFloat32, FP8
    Dank KI zu neuen Gleitkommazahlen

    Die Dominanz der KI-Forschung bringt die Gleitkommazahlen erstmals seit Jahrzehnten wieder durcheinander. Darauf muss auch die Hardware-Industrie reagieren.
    Von Sebastian Grüner

  3. Probefahrt mit EQS SUV: Geländegängiger Luxus auf vier Rädern
    Probefahrt mit EQS SUV
    Geländegängiger Luxus auf vier Rädern

    Nach einer Testrunde in Colorado versteht man, was Mercedes beim EQS SUV mit Top-End Luxury meint.
    Ein Bericht von Dirk Kunde

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • CyberWeek nur noch heute • Xbox Series S + FIFA 23 259€ • MindStar (Mega Fastro SSD 1TB 69€, KF DDR5-6000 32GB Kit 229€) • PCGH-Ratgeber-PC 3000€ Radeon Edition 2.500€ • Alternate (Be Quiet Tower-Gehäuse 89,90€) • PS5-Controller GoW Ragnarök Limited Edition vorbestellbar [Werbung]
    •  /