Deep Fake

Nur ein Bild und ein Klick sollen reichen, um einen Deep-Fake-Porno zu generieren. Das Problem scheint immer größer zu werden.

Mittels KI und 3D-Animation wurde Rozy erschaffen. Sie soll einer möglichst großen Zielgruppe gefallen und Werbung machen.

Mit Deep Fakes schafft Shamook überzeugendere Varianten von Star-Wars-Figuren, als es Disney je gelungen ist. Jetzt arbeitet er bei ILM.

Echte Bilder haben Eigenschaften, die etwa die genutzte Kamera verraten. Facebook will Ähnliches nun auch bei Deep-Fake-Bildern erkennen können.

Mit einer neuen Technik will Facebook Forschungen und eine Diskussion um den Einsatz von Deep Fakes bei Schriften in Bildern anregen.

Bei synchronisierten Filmen passen die Lippenbewegungen oft nur mit Fantasie zum gesprochenen Text - KI soll das in Zukunft ändern.

Europäische Politiker sollen auf KI-manipulierte Videoanrufe eines Nawalny-Vertrauten hereingefallen sein. Doch das stimmt offenbar gar nicht.

Holländische Politiker sind von einem Deep Fake getäuscht worden. Ein Unbekannter gab sich per Video-Chat als Stabschef von Alexei Nawalny aus.

Mittels Gesichtserkennung hat sich ein Schauspieler den Spaß erlaubt, das Gesicht von Tom Cruise zu tragen. Deep Fakes werden immer besser.

Alte Fotos lassen sich über die Stammbaum-Webseite Myheritage per Deep Fake zum Leben erwecken - die Betreiber sind sich der Kontroverse bewusst.

Wenn Queen Elizabeth eine Tiktok-Dance-Challenge startet, kann das nicht ernst gemeint sein. Der Sender Channel 4 will so vor Fake News warnen.

Die Spezialeffekte der Serie The Mandalorian sind beeindruckend. Ein Deep Fake von Fans zeigt, dass es noch besser geht. Achtung, Spoiler!

Ein Newsmoderator mit dem Gesicht von Donald Trump und Mark Zuckerberg als Teleshopping-Verkäufer: Sassy Justice spielt mit Deep Fakes.

Auf Telegram lassen sich vergleichsweise einfach Nacktfotos von Frauen erzeugen. Die Opfer stammen meist aus dem Umfeld der Täter.

In einem Deep-Fakes-Experiment spricht der Ex-US-Präsident zur Nation. Für Schauspieler und MIT-Forscherinnen war das komplettes Neuland.

Die KI erkennt Deep Fakes in Videos und auf Fotos. Laut Microsoft ist solch eine Lösung für die "Verteidigung der Demokratie" wichtig.

Ein MIT-Team lässt den ehemaligen US-Präsidenten Richard Nixon eine Rede halten, die er für einen Fehlschlag bei der Mondlandung 1969 vorbereitet hatte.

Das Studio forscht an Gesichtsaustauschsoftware, um diese in eigenen Filmen anzuwenden. Die KI ist bereits besser als herkömmliches CGI.

Mehr als 2.000 Entwicklerteams haben KIs eingereicht, die Deep Fakes erkennen sollten. Die Ergebnisse sind ernüchternd, die Erkenntnisse gut.

Wissenschaftliche Forschung kann unabsehbar fatale Folgen für ganze Gesellschaften haben - gerade im Bereich der KI. Der Umgang mit solchen Ergebnissen ist nicht geregelt: Höchste Zeit, das zu ändern.
Ein Essay von Thilo Hagendorff

In wenigen Stunden ist Avatarify programmiert worden, dank Open-Source-Vorlagen. Damit sind prominente Gesichter in Videocalls zu sehen.

Noch sind Deep-Fake-Videos oder maschinell erstellte Fotomontagen meist mit bloßen Augen als Fälschungen erkennbar. Allerdings könnte sich dies schnell ändern, weshalb Googles Jigsaw an einem Detektor arbeitet, der echt von falsch unterscheiden können soll.

Der Austausch von Gesichtern und andere Mogeleien sind in China ab dem 1. Januar 2020 kennzeichnungspflichtig. Die Veröffentlichung nicht gekennzeichneter Deep Fakes wird für Urheber und Diensteanbieter strafbar.

Die Polizei soll zukünftig Deep Fakes in ihrer Ermittlungsarbeit nutzen dürfen. Mit dem Computer generierte kinderpornografische Darstellungen sollen die Eintrittskarte in Untergrundforen sein. Ein entsprechendes Gesetz soll noch vor Weihnachten verabschiedet werden.

Mit Deep Fakes wird geblödelt, gehetzt und geputscht. Bedrohen Videos, die vorgaukeln, Stars und Politiker zu zeigen, die Demokratie? Möglich, nur anders, als wir denken.
Eine Analyse von Meike Laaff

De-Aging war gestern, jetzt werden die Toten zum Leben erweckt: James Dean übernimmt posthum eine Filmrolle. Damit überholt in Hollywood die Technik die Moral.
Eine Analyse von Peter Osteried

Aus Willem Dafoe wird ein ähnliches, aber für Gesichtserkennung schwer identifizierbares Abbild: Forscher entwickeln ein Machine-Learning-Programm, das die Gesichter von Menschen so verändert, dass sie vor Erkennungsalgorithmen möglichst gut geschützt werden. Das soll auch in Videos funktionieren.

Gal Gadot in einem Porno und Obama, der Trump beleidigt: Kalifornien will stärker gegen mit Hilfe von KI gefälschten Videos vorgehen. Der Upload solcher Inhalte soll verboten werden. Die Intention sei gut, allerdings auch eine Einschränkung der Meinungsäußerung, meinen Bürgerrechtler.

Nicht einmal auf die Stimme kann man sich verlassen: Mit Hilfe künstlicher Intelligenz haben Betrüger die Stimme eines CEOs täuschend echt nachgeahmt - und konnten so eine Überweisung veranlassen. Schutz ist schwierig.

Der Erfolg des KI-Nacktgenerators Deepnude war für das kleine Entwicklerteam zu viel: Erst ist der Downloadserver abgestürzt und dann hat das Team das Ende des Projekts verkündet. Mit Deepnude konnten mit Hilfe von GANs Bilder von bekleideten Frauen in Bilder von nackten Frauen umgewandelt werden.

Wie sieht ein Labrador in Katzenform aus? Nutzer können es mit dem Nvidia-Tool Petswap herausfinden. Es basiert auf dem neuronalen Netzwerk Funit, das menschliche Vorstellungskraft imitieren soll - teils mit skurilen Ergebnissen.

Mithilfe von Künstlicher Intelligenz (KI) und Machine Learning haben Kreative den Schauspieler Alden Ehrenreich in Solo: A Star Wars Story durch Harrison Ford als Han Solo ersetzt.

In einem Forschungsprojekt experimentieren Wissenschaftler mit einem KI-System, das Elemente eines Videos analysiert und auf ein anderes Video überträgt. In einem gezeigten Clip kann so eine Narzisse wie ein Hibiskus blühen oder Donald Trump wie Barack Obama reden.

In einem White Paper macht US-Senator Mark Warner 20 Vorschläge, wie große Onlineplattformen an die Leine gelegt werden könnten. Von besserer Medienbildung für Kinder bis zu einer Interoperabilitätspflicht ist alles dabei.

Mit Hilfe der bereits bekannten KI-Software Fakeapp und Adobe After Effects wurde ein Videoclip erstellt, der den ehemaligen US-Präsidenten Obama beleidigende Sätze sprechen lässt. Die Fälschung ist bereits sehr gelungen, aber nicht ohne Fehler. Das Potenzial solcher Techniken ist schon groß.