Künstliche Intelligenz: Deep-Fake-App ermöglicht extrem einfache Porno-Generierung

Nur ein Bild und ein Klick sollen reichen, um einen Deep-Fake-Porno zu generieren. Das Problem scheint immer größer zu werden.

Artikel veröffentlicht am ,
Das Ersetzen von Gesichtern in Bildern und Videos wird immer einfacher.
Das Ersetzen von Gesichtern in Bildern und Videos wird immer einfacher. (Bild: Kirill Kudryavtsev/AFP via Getty Images)

Die sogenannte Deep-Fake-Technik ermöglicht es, mit Hilfe von Machine Learning in Videos etwa täuschend echt Gesichter auszutauschen. Das lässt sich für klassische Film- und Fernsehproduktionen nutzen, aber auch für pornografische Inhalte, was schnell zu Schwierigkeiten für betroffene Personen führen kann. Und die Technik für Deep-Fake-Pornos wird dabei wohl immer besser, wie die Technology Review schreibt.

Stellenmarkt
  1. Network / Security Engineer (m/w/d)
    HCD Consulting GmbH, München
  2. Projektmanager (m/w/d) Zentrallogistik - Schwerpunkt ERP
    Goldbeck GmbH, Bielefeld
Detailsuche

In einem aktuellen Bericht über eine App, die das Magazin selbst nicht namentlich nennt, um keine weitere Werbung dafür zu machen, heißt es: "Alles, was es dazu braucht, ist das Bild und ein Knopfdruck". Auf den Dienst hingewiesen hat der KI-Forscher Henry Ajder, der unter anderem die Auswirkungen und Fähigkeiten aktueller Deep-Fake-Techniken untersucht.

Zwar habe der Dienst selbst derzeit noch vergleichsweise wenige Nutzer. Mit derartigen Angeboten werden aber immer mehr Grenzen überschritten, die bereits seit langem als Problem erkannt werden. So musste der Dienst Deepnude, der Bilder von Frauen in Nacktbilder verwandelt hatte, schon vor rund zwei Jahren auf Grund des extrem großen Interesses eingestellt werden.

Die Nutzung und wohl auch einfache Verfügbarkeit solcher Angebote führt zu Problemen, da die damit erstellten Inhalte oft "non-consensual Porn" sind, also nicht im Einvernehmen erstellt werden. Der Forscher Ajder schreibt gar, dass dies die "häufigste böswillige Verwendung von Deep Fakes" sei.

Golem Karrierewelt
  1. IPv6 Grundlagen: virtueller Zwei-Tage-Workshop
    19./20.12.2022, virtuell
  2. CEH Certified Ethical Hacker v12: virtueller Fünf-Tage-Workshop
    14.-18.11.2022, Virtuell
Weitere IT-Trainings

In ihrem Bericht beschreibt die Technology Review etwa Fälle von Journalistinnen, von denen Deep-Fake-Nacktaufnahmen erstellt und verbreitet wurden, was zu massiven Belästigungen geführt habe. In Kalifornien wurde bereits vor zwei Jahren eine gesetzliche Regulierung für Deep Fakes diskutiert, die Betroffenen eine bessere Klagemöglichkeit zum Vorgehen gegen derartige Inhalte liefert. In China ist eine Veröffentlichung von Deep-Fake-Inhalten bereits verboten.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


DieTatsaechlich... 15. Okt 2021

Aha aha aha .... Vielleicht einfach (vorher) mal in der Wikipedia nachschlagen? Dann...

ptepic 21. Sep 2021

Ja, Grammatik ist ok. Zu dem Pornokram kann ich nicht viel sagen... hab ja keine Ahnung...

Ph4te 17. Sep 2021

Deepfakes an sich sind wahnsinnig cool. LucasArts meine ich hatte doch vor kurzem sogar...

freundlicherGnom 16. Sep 2021

Kacken ist auch das natürlichste von der Welt, dennoch möchtest du keine Videos von dir...



Aktuell auf der Startseite von Golem.de
Cloudgaming
Google Stadia scheiterte nur an sich selbst

Die Technik war nicht das Problem von Alphabets ambitioniertem Cloudgaming-Dienst. Das Problem liegt bei Google. Ein Nachruf.
Eine Analyse von Daniel Ziegener

Cloudgaming: Google Stadia scheiterte nur an sich selbst
Artikel
  1. Tiktok-Video: Witz über große Brüste kostet Apple-Manager den Job
    Tiktok-Video
    Witz über große Brüste kostet Apple-Manager den Job

    Er befummle von Berufs wegen großbrüstige Frauen, hatte ein Apple Vice President bei Tiktok gewitzelt. Das kostete ihn den Job.

  2. Copilot, Java, RISC-V, Javascript, Tor: KI macht produktiver und Rust gewinnt wichtige Unterstützer
    Copilot, Java, RISC-V, Javascript, Tor
    KI macht produktiver und Rust gewinnt wichtige Unterstützer

    Dev-Update Die Diskussion um die kommerzielle Verwertbarkeit von Open Source erreicht Akka und Apache Flink, OpenAI macht Spracherkennung, Facebook hilft Javascript-Enwicklern und Rust wird immer siegreicher.
    Von Sebastian Grüner

  3. Vantage Towers: 1&1 Mobilfunk gibt Vodafone die Schuld an spätem Start
    Vantage Towers
    1&1 Mobilfunk gibt Vodafone die Schuld an spätem Start

    Einige Wochen hat es gedauert, bis 1&1 Mobilfunk eine klare Schuldzuweisung gemacht hat. Doch Vantage Towers verteidigt seine Position im Gespräch mit Golem.de.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • LG OLED TV 2022 65" 120 Hz 1.799€ • ASRock Mainboard f. Ryzen 7000 319€ • MindStar (G.Skill DDR5-6000 32GB 299€, Mega Fastro SSD 2TB 135€) • Alternate (G.Skill DDR5-6000 32GB 219,90€) • Xbox Series S + FIFA 23 259€ • PCGH-Ratgeber-PC 3000€ Radeon Edition 2.500€ [Werbung]
    •  /