Deep Fake

Das Studio forscht an Gesichtsaustauschsoftware, um diese in eigenen Filmen anzuwenden. Die KI ist bereits besser als herkömmliches CGI.

Mehr als 2.000 Entwicklerteams haben KIs eingereicht, die Deep Fakes erkennen sollten. Die Ergebnisse sind ernüchternd, die Erkenntnisse gut.

Wissenschaftliche Forschung kann unabsehbar fatale Folgen für ganze Gesellschaften haben - gerade im Bereich der KI. Der Umgang mit solchen Ergebnissen ist nicht geregelt: Höchste Zeit, das zu ändern.
Ein Essay von Thilo Hagendorff

In wenigen Stunden ist Avatarify programmiert worden, dank Open-Source-Vorlagen. Damit sind prominente Gesichter in Videocalls zu sehen.

Noch sind Deep-Fake-Videos oder maschinell erstellte Fotomontagen meist mit bloßen Augen als Fälschungen erkennbar. Allerdings könnte sich dies schnell ändern, weshalb Googles Jigsaw an einem Detektor arbeitet, der echt von falsch unterscheiden können soll.

Der Austausch von Gesichtern und andere Mogeleien sind in China ab dem 1. Januar 2020 kennzeichnungspflichtig. Die Veröffentlichung nicht gekennzeichneter Deep Fakes wird für Urheber und Diensteanbieter strafbar.

Die Polizei soll zukünftig Deep Fakes in ihrer Ermittlungsarbeit nutzen dürfen. Mit dem Computer generierte kinderpornografische Darstellungen sollen die Eintrittskarte in Untergrundforen sein. Ein entsprechendes Gesetz soll noch vor Weihnachten verabschiedet werden.

Mit Deep Fakes wird geblödelt, gehetzt und geputscht. Bedrohen Videos, die vorgaukeln, Stars und Politiker zu zeigen, die Demokratie? Möglich, nur anders, als wir denken.
Eine Analyse von Meike Laaff

De-Aging war gestern, jetzt werden die Toten zum Leben erweckt: James Dean übernimmt posthum eine Filmrolle. Damit überholt in Hollywood die Technik die Moral.
Eine Analyse von Peter Osteried

Aus Willem Dafoe wird ein ähnliches, aber für Gesichtserkennung schwer identifizierbares Abbild: Forscher entwickeln ein Machine-Learning-Programm, das die Gesichter von Menschen so verändert, dass sie vor Erkennungsalgorithmen möglichst gut geschützt werden. Das soll auch in Videos funktionieren.

Gal Gadot in einem Porno und Obama, der Trump beleidigt: Kalifornien will stärker gegen mit Hilfe von KI gefälschten Videos vorgehen. Der Upload solcher Inhalte soll verboten werden. Die Intention sei gut, allerdings auch eine Einschränkung der Meinungsäußerung, meinen Bürgerrechtler.

Nicht einmal auf die Stimme kann man sich verlassen: Mit Hilfe künstlicher Intelligenz haben Betrüger die Stimme eines CEOs täuschend echt nachgeahmt - und konnten so eine Überweisung veranlassen. Schutz ist schwierig.

Der Erfolg des KI-Nacktgenerators Deepnude war für das kleine Entwicklerteam zu viel: Erst ist der Downloadserver abgestürzt und dann hat das Team das Ende des Projekts verkündet. Mit Deepnude konnten mit Hilfe von GANs Bilder von bekleideten Frauen in Bilder von nackten Frauen umgewandelt werden.

Wie sieht ein Labrador in Katzenform aus? Nutzer können es mit dem Nvidia-Tool Petswap herausfinden. Es basiert auf dem neuronalen Netzwerk Funit, das menschliche Vorstellungskraft imitieren soll - teils mit skurilen Ergebnissen.

Mithilfe von Künstlicher Intelligenz (KI) und Machine Learning haben Kreative den Schauspieler Alden Ehrenreich in Solo: A Star Wars Story durch Harrison Ford als Han Solo ersetzt.

In einem Forschungsprojekt experimentieren Wissenschaftler mit einem KI-System, das Elemente eines Videos analysiert und auf ein anderes Video überträgt. In einem gezeigten Clip kann so eine Narzisse wie ein Hibiskus blühen oder Donald Trump wie Barack Obama reden.

In einem White Paper macht US-Senator Mark Warner 20 Vorschläge, wie große Onlineplattformen an die Leine gelegt werden könnten. Von besserer Medienbildung für Kinder bis zu einer Interoperabilitätspflicht ist alles dabei.

Mit Hilfe der bereits bekannten KI-Software Fakeapp und Adobe After Effects wurde ein Videoclip erstellt, der den ehemaligen US-Präsidenten Obama beleidigende Sätze sprechen lässt. Die Fälschung ist bereits sehr gelungen, aber nicht ohne Fehler. Das Potenzial solcher Techniken ist schon groß.