Künstliche Intelligenz: Deep-Fake-App ermöglicht extrem einfache Porno-Generierung

Nur ein Bild und ein Klick sollen reichen, um einen Deep-Fake-Porno zu generieren. Das Problem scheint immer größer zu werden.

Artikel veröffentlicht am ,
Das Ersetzen von Gesichtern in Bildern und Videos wird immer einfacher.
Das Ersetzen von Gesichtern in Bildern und Videos wird immer einfacher. (Bild: Kirill Kudryavtsev/AFP via Getty Images)

Die sogenannte Deep-Fake-Technik ermöglicht es, mit Hilfe von Machine Learning in Videos etwa täuschend echt Gesichter auszutauschen. Das lässt sich für klassische Film- und Fernsehproduktionen nutzen, aber auch für pornografische Inhalte, was schnell zu Schwierigkeiten für betroffene Personen führen kann. Und die Technik für Deep-Fake-Pornos wird dabei wohl immer besser, wie die Technology Review schreibt.

Stellenmarkt
  1. Linux- und Datenbankadministrator*in (m/w/d)
    Stadt Mülheim (Ruhr), Mülheim an der Ruhr
  2. Project Manager (m/f/d)
    GCP - Grand City Property, Berlin
Detailsuche

In einem aktuellen Bericht über eine App, die das Magazin selbst nicht namentlich nennt, um keine weitere Werbung dafür zu machen, heißt es: "Alles, was es dazu braucht, ist das Bild und ein Knopfdruck". Auf den Dienst hingewiesen hat der KI-Forscher Henry Ajder, der unter anderem die Auswirkungen und Fähigkeiten aktueller Deep-Fake-Techniken untersucht.

Zwar habe der Dienst selbst derzeit noch vergleichsweise wenige Nutzer. Mit derartigen Angeboten werden aber immer mehr Grenzen überschritten, die bereits seit langem als Problem erkannt werden. So musste der Dienst Deepnude, der Bilder von Frauen in Nacktbilder verwandelt hatte, schon vor rund zwei Jahren auf Grund des extrem großen Interesses eingestellt werden.

Die Nutzung und wohl auch einfache Verfügbarkeit solcher Angebote führt zu Problemen, da die damit erstellten Inhalte oft "non-consensual Porn" sind, also nicht im Einvernehmen erstellt werden. Der Forscher Ajder schreibt gar, dass dies die "häufigste böswillige Verwendung von Deep Fakes" sei.

Golem Karrierewelt
  1. Einführung in Unity: virtueller Ein-Tages-Workshop
    12.08.2022, Virtuell
  2. Blender Grundkurs: virtueller Drei-Tage-Workshop
    06.-08.09.2022, Virtuell
Weitere IT-Trainings

In ihrem Bericht beschreibt die Technology Review etwa Fälle von Journalistinnen, von denen Deep-Fake-Nacktaufnahmen erstellt und verbreitet wurden, was zu massiven Belästigungen geführt habe. In Kalifornien wurde bereits vor zwei Jahren eine gesetzliche Regulierung für Deep Fakes diskutiert, die Betroffenen eine bessere Klagemöglichkeit zum Vorgehen gegen derartige Inhalte liefert. In China ist eine Veröffentlichung von Deep-Fake-Inhalten bereits verboten.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


DieTatsaechlich... 15. Okt 2021

Aha aha aha .... Vielleicht einfach (vorher) mal in der Wikipedia nachschlagen? Dann...

ptepic 21. Sep 2021

Ja, Grammatik ist ok. Zu dem Pornokram kann ich nicht viel sagen... hab ja keine Ahnung...

Ph4te 17. Sep 2021

Deepfakes an sich sind wahnsinnig cool. LucasArts meine ich hatte doch vor kurzem sogar...

freundlicherGnom 16. Sep 2021

Kacken ist auch das natürlichste von der Welt, dennoch möchtest du keine Videos von dir...



Aktuell auf der Startseite von Golem.de
bZ4X
Toyota bietet Rückkauf seiner zurückgerufenen E-Autos an

Toyota bietet Kunden den Rückkauf seiner Elektro-SUVs an, nachdem diese im Juni wegen loser Radnabenschrauben zurückgerufen wurden.

bZ4X: Toyota bietet Rückkauf seiner zurückgerufenen E-Autos an
Artikel
  1. 25 Jahre Dungeon Keeper: Wir sind wieder richtig böse!
    25 Jahre Dungeon Keeper
    Wir sind wieder richtig böse!

    Nicht Held, sondern Monster: Darum geht's in Dungeon Keeper von Peter Molyneux. Golem.de hat neu gespielt - und einen bösen Bug gefunden.
    Von Andreas Altenheimer

  2. Entwicklerstudio: Eidos Montreal möchte Cyberpunk 2077 mit Deus Ex toppen
    Entwicklerstudio
    Eidos Montreal möchte Cyberpunk 2077 mit Deus Ex toppen

    Eidos Montreal würde gerne ein neues Deus Ex machen. Der Plan, damit Cyberpunk 2077 zu übertrumpfen, scheitert aber vorerst an einem Detail.

  3. Verkehrswende: Bayern aus spätpubertärem Trotz gegen neues 9-Euro-Ticket?
    Verkehrswende
    Bayern aus "spätpubertärem Trotz" gegen neues 9-Euro-Ticket?

    Bayerns Verkehrsminister will kein Geld für einen Nachfolger zum 9-Euro-Ticket geben - und bekommt dafür scharfe Kritik aus der Opposition.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • MindStar (u. a. Samsung 980 1 TB 77€ und ASRock RX 6800 639€ ) • Alternate (u. a. Corsair Vengeance LPX 8 GB DDR4-3200 34,98€ ) • AOC GM200 6,29€ • be quiet! Deals • SSV bei Saturn (u. a. WD_BLACK SN850 1 TB 119€) • Weekend Sale bei Alternate • PDP Victrix Gambit 63,16€ [Werbung]
    •  /