Künstliche Intelligenz: Deep-Fake-App ermöglicht extrem einfache Porno-Generierung

Nur ein Bild und ein Klick sollen reichen, um einen Deep-Fake-Porno zu generieren. Das Problem scheint immer größer zu werden.

Artikel veröffentlicht am ,
Das Ersetzen von Gesichtern in Bildern und Videos wird immer einfacher.
Das Ersetzen von Gesichtern in Bildern und Videos wird immer einfacher. (Bild: Kirill Kudryavtsev/AFP via Getty Images)

Die sogenannte Deep-Fake-Technik ermöglicht es, mit Hilfe von Machine Learning in Videos etwa täuschend echt Gesichter auszutauschen. Das lässt sich für klassische Film- und Fernsehproduktionen nutzen, aber auch für pornografische Inhalte, was schnell zu Schwierigkeiten für betroffene Personen führen kann. Und die Technik für Deep-Fake-Pornos wird dabei wohl immer besser, wie die Technology Review schreibt.

Stellenmarkt
  1. Business Analyst Digital Sales für die Abteilung Kundenprozesse, -anwendungen & -daten (m/w/d)
    Allianz Deutschland AG, München Unterföhring
  2. Softwareentwickler Desktop/App (m/w/x)
    Hottgenroth Software GmbH & Co. KG / ETU Software GmbH, Köln
Detailsuche

In einem aktuellen Bericht über eine App, die das Magazin selbst nicht namentlich nennt, um keine weitere Werbung dafür zu machen, heißt es: "Alles, was es dazu braucht, ist das Bild und ein Knopfdruck". Auf den Dienst hingewiesen hat der KI-Forscher Henry Ajder, der unter anderem die Auswirkungen und Fähigkeiten aktueller Deep-Fake-Techniken untersucht.

Zwar habe der Dienst selbst derzeit noch vergleichsweise wenige Nutzer. Mit derartigen Angeboten werden aber immer mehr Grenzen überschritten, die bereits seit langem als Problem erkannt werden. So musste der Dienst Deepnude, der Bilder von Frauen in Nacktbilder verwandelt hatte, schon vor rund zwei Jahren auf Grund des extrem großen Interesses eingestellt werden.

Die Nutzung und wohl auch einfache Verfügbarkeit solcher Angebote führt zu Problemen, da die damit erstellten Inhalte oft "non-consensual Porn" sind, also nicht im Einvernehmen erstellt werden. Der Forscher Ajder schreibt gar, dass dies die "häufigste böswillige Verwendung von Deep Fakes" sei.

Golem Akademie
  1. IT-Fachseminare der Golem Akademie
    Live-Workshops zu Schlüsselqualifikationen
  2. 1:1-Videocoaching mit Golem Shifoo
    Berufliche Herausforderungen meistern
  3. Online-Sprachkurse mit Golem & Gymglish
    Kurze Lektionen, die funktionieren
Weitere IT-Trainings

In ihrem Bericht beschreibt die Technology Review etwa Fälle von Journalistinnen, von denen Deep-Fake-Nacktaufnahmen erstellt und verbreitet wurden, was zu massiven Belästigungen geführt habe. In Kalifornien wurde bereits vor zwei Jahren eine gesetzliche Regulierung für Deep Fakes diskutiert, die Betroffenen eine bessere Klagemöglichkeit zum Vorgehen gegen derartige Inhalte liefert. In China ist eine Veröffentlichung von Deep-Fake-Inhalten bereits verboten.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


ptepic 21. Sep 2021 / Themenstart

Ja, Grammatik ist ok. Zu dem Pornokram kann ich nicht viel sagen... hab ja keine Ahnung...

Ph4te 17. Sep 2021 / Themenstart

Nicht zu vergessen, dass das Grundgesetz eh nicht angewendet werden kann, vermute ich...

Ph4te 17. Sep 2021 / Themenstart

Deepfakes an sich sind wahnsinnig cool. LucasArts meine ich hatte doch vor kurzem sogar...

freundlicherGnom 16. Sep 2021 / Themenstart

Kacken ist auch das natürlichste von der Welt, dennoch möchtest du keine Videos von dir...

Dakkaron 16. Sep 2021 / Themenstart

Ist doch hier auch verboten.

Kommentieren



Aktuell auf der Startseite von Golem.de
Microsoft
Das Surface Pro 8 bekommt zum ersten Mal ein neues Design

Das Surface Pro 8 ist da und sieht komplett anders aus. Das reicht von kleineren Displayrändern zu einem dünneren Chassis.

Microsoft: Das Surface Pro 8 bekommt zum ersten Mal ein neues Design
Artikel
  1. Surface Laptop Studio: Microsoft bringt Surface Laptop und Surface Studio zusammen
    Surface Laptop Studio
    Microsoft bringt Surface Laptop und Surface Studio zusammen

    Statt eines neuen Surface Book bringt Microsoft ein völlig neues Gerät heraus. Der Surface Laptop Studio hat ein ungewöhnliches Scharnier.

  2. Malware: Mehrere Kliniken nach Hackerangriff vom Netz genommen
    Malware
    Mehrere Kliniken nach Hackerangriff vom Netz genommen

    Neben den Kliniken seien auch Bildungseinrichtungen von dem Malware-Angriff betroffen. Sicherheitshalber wird nun mit Papier und Stift gearbeitet.

  3. CMOS-Batterie: Firmware-Update hat PS4 offenbar vor ewigem Aus gerettet
    CMOS-Batterie
    Firmware-Update hat PS4 offenbar vor ewigem Aus gerettet

    Sony hat mit Firmware 9.0 für die Playstation 4 ein großes Problem gelöst: eine leere CMOS-Batterie kann die Konsole nicht mehr zerstören.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Black Week bei NBB: Bis 50% Rabatt (u. a. MSI 31,5" Curved WQHD 165Hz 350€) • PS5 Digital + 2. Dualsense + FIFA 22 mit o2-Vertrag bestellbar • Samsung T7 Portable SSD 1TB 105,39€ • Thermaltake Level 20 RS ARGB Tower 99,90€ • Gran Turismo 7 25th Anniv. vorbestellbar 99,99€ [Werbung]
    •  /