Künstliche Intelligenz: Deep-Fake-App ermöglicht extrem einfache Porno-Generierung

Nur ein Bild und ein Klick sollen reichen, um einen Deep-Fake-Porno zu generieren. Das Problem scheint immer größer zu werden.

Artikel veröffentlicht am ,
Das Ersetzen von Gesichtern in Bildern und Videos wird immer einfacher.
Das Ersetzen von Gesichtern in Bildern und Videos wird immer einfacher. (Bild: Kirill Kudryavtsev/AFP via Getty Images)

Die sogenannte Deep-Fake-Technik ermöglicht es, mit Hilfe von Machine Learning in Videos etwa täuschend echt Gesichter auszutauschen. Das lässt sich für klassische Film- und Fernsehproduktionen nutzen, aber auch für pornografische Inhalte, was schnell zu Schwierigkeiten für betroffene Personen führen kann. Und die Technik für Deep-Fake-Pornos wird dabei wohl immer besser, wie die Technology Review schreibt.

Stellenmarkt
  1. Softwareentwickler (m/w/d) Microsoft Dynamics Business Central/NAV
    GWS Gesellschaft für Warenwirtschafts-Systeme mbH, Münster, München, Leonberg
  2. Projektmanager (m/w/d) Digitalisierung Produktion
    Hirschvogel Holding GmbH, Denklingen
Detailsuche

In einem aktuellen Bericht über eine App, die das Magazin selbst nicht namentlich nennt, um keine weitere Werbung dafür zu machen, heißt es: "Alles, was es dazu braucht, ist das Bild und ein Knopfdruck". Auf den Dienst hingewiesen hat der KI-Forscher Henry Ajder, der unter anderem die Auswirkungen und Fähigkeiten aktueller Deep-Fake-Techniken untersucht.

Zwar habe der Dienst selbst derzeit noch vergleichsweise wenige Nutzer. Mit derartigen Angeboten werden aber immer mehr Grenzen überschritten, die bereits seit langem als Problem erkannt werden. So musste der Dienst Deepnude, der Bilder von Frauen in Nacktbilder verwandelt hatte, schon vor rund zwei Jahren auf Grund des extrem großen Interesses eingestellt werden.

Die Nutzung und wohl auch einfache Verfügbarkeit solcher Angebote führt zu Problemen, da die damit erstellten Inhalte oft "non-consensual Porn" sind, also nicht im Einvernehmen erstellt werden. Der Forscher Ajder schreibt gar, dass dies die "häufigste böswillige Verwendung von Deep Fakes" sei.

Golem Akademie
  1. IT-Fachseminare der Golem Akademie
    Live-Workshops zu Schlüsselqualifikationen
  2. 1:1-Videocoaching mit Golem Shifoo
    Berufliche Herausforderungen meistern
  3. Online-Sprachkurse mit Golem & Gymglish
    Kurze Lektionen, die funktionieren
Weitere IT-Trainings

In ihrem Bericht beschreibt die Technology Review etwa Fälle von Journalistinnen, von denen Deep-Fake-Nacktaufnahmen erstellt und verbreitet wurden, was zu massiven Belästigungen geführt habe. In Kalifornien wurde bereits vor zwei Jahren eine gesetzliche Regulierung für Deep Fakes diskutiert, die Betroffenen eine bessere Klagemöglichkeit zum Vorgehen gegen derartige Inhalte liefert. In China ist eine Veröffentlichung von Deep-Fake-Inhalten bereits verboten.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


ptepic 21. Sep 2021 / Themenstart

Ja, Grammatik ist ok. Zu dem Pornokram kann ich nicht viel sagen... hab ja keine Ahnung...

Ph4te 17. Sep 2021 / Themenstart

Nicht zu vergessen, dass das Grundgesetz eh nicht angewendet werden kann, vermute ich...

Ph4te 17. Sep 2021 / Themenstart

Deepfakes an sich sind wahnsinnig cool. LucasArts meine ich hatte doch vor kurzem sogar...

freundlicherGnom 16. Sep 2021 / Themenstart

Kacken ist auch das natürlichste von der Welt, dennoch möchtest du keine Videos von dir...

Dakkaron 16. Sep 2021 / Themenstart

Ist doch hier auch verboten.

Kommentieren



Aktuell auf der Startseite von Golem.de
Akkutechnik
Lithiumknappheit führt zu Rekordpreisen

Preise steigen in einem Jahr von Rekordtief auf Rekordhoch. Das Angebot hält mit unerwartet hoher Nachfrage nach Lithium-Ionen-Akkus nicht mit.
Eine Analyse von Frank Wunderlich-Pfeiffer

Akkutechnik: Lithiumknappheit führt zu Rekordpreisen
Artikel
  1. Telekom: Firmen wollen private 5G-Netze gar nicht selbst betreiben
    Telekom
    Firmen wollen private 5G-Netze "gar nicht selbst betreiben"

    Laut Telekom wollen die Firmen in Deutschland ihre über 110 5G-Campusnetze nicht selbst führen. Doch es gibt auch andere Darstellungen.

  2. Smartphone-App: Digitaler Führerschein leidet unter enormen Schwierigkeiten
    Smartphone-App
    Digitaler Führerschein leidet unter enormen Schwierigkeiten

    Mit dem großen Andrang habe das Kraftfahrt-Bundesamt nicht gerechnet. Nun ist die App kaputt. Ein Update soll es richten.

  3. Blizzard: Reger Handel mit Gegenständen aus Diablo 2 Resurrected
    Blizzard
    Reger Handel mit Gegenständen aus Diablo 2 Resurrected

    Besonders mächtige Ausrüstung aus Diablo 2 Resurrected wird auf Auktionsbörsen gehandelt.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • 7 Tage Samsung-Angebote bei Amazon (u. a. SSDs, Monitore, TVs) • Samsung G5 32" Curved WQHD 144Hz 265€ • Räumungsverkauf bei MediaMarkt • Nur noch heute: Black Week bei NBB • Acer Nitro 23,8" FHD 165Hz 184,90€ • Alternate (u. a. Cooler Master Gaming-Headset 59,90€) [Werbung]
    •  /