Künstliche Intelligenz: Deep-Fake-App ermöglicht extrem einfache Porno-Generierung

Nur ein Bild und ein Klick sollen reichen, um einen Deep-Fake-Porno zu generieren. Das Problem scheint immer größer zu werden.

Artikel veröffentlicht am ,
Das Ersetzen von Gesichtern in Bildern und Videos wird immer einfacher.
Das Ersetzen von Gesichtern in Bildern und Videos wird immer einfacher. (Bild: Kirill Kudryavtsev/AFP via Getty Images)

Die sogenannte Deep-Fake-Technik ermöglicht es, mit Hilfe von Machine Learning in Videos etwa täuschend echt Gesichter auszutauschen. Das lässt sich für klassische Film- und Fernsehproduktionen nutzen, aber auch für pornografische Inhalte, was schnell zu Schwierigkeiten für betroffene Personen führen kann. Und die Technik für Deep-Fake-Pornos wird dabei wohl immer besser, wie die Technology Review schreibt.

Stellenmarkt
  1. Senior Solution Architect Azure (m/w/d)
    operational services GmbH & Co. KG, Frankfurt am Main, München, Hamburg
  2. IT-Infrastruktur-Systembetre- uer (m/w/d)
    Psychiatrisches Zentrum Nordbaden, Wiesloch
Detailsuche

In einem aktuellen Bericht über eine App, die das Magazin selbst nicht namentlich nennt, um keine weitere Werbung dafür zu machen, heißt es: "Alles, was es dazu braucht, ist das Bild und ein Knopfdruck". Auf den Dienst hingewiesen hat der KI-Forscher Henry Ajder, der unter anderem die Auswirkungen und Fähigkeiten aktueller Deep-Fake-Techniken untersucht.

Zwar habe der Dienst selbst derzeit noch vergleichsweise wenige Nutzer. Mit derartigen Angeboten werden aber immer mehr Grenzen überschritten, die bereits seit langem als Problem erkannt werden. So musste der Dienst Deepnude, der Bilder von Frauen in Nacktbilder verwandelt hatte, schon vor rund zwei Jahren auf Grund des extrem großen Interesses eingestellt werden.

Die Nutzung und wohl auch einfache Verfügbarkeit solcher Angebote führt zu Problemen, da die damit erstellten Inhalte oft "non-consensual Porn" sind, also nicht im Einvernehmen erstellt werden. Der Forscher Ajder schreibt gar, dass dies die "häufigste böswillige Verwendung von Deep Fakes" sei.

Golem Akademie
  1. IT-Fachseminare der Golem Akademie
    Live-Workshops zu Schlüsselqualifikationen
  2. 1:1-Videocoaching mit Golem Shifoo
    Berufliche Herausforderungen meistern
  3. Online-Sprachkurse mit Golem & Gymglish
    Kurze Lektionen, die funktionieren
Weitere IT-Trainings

In ihrem Bericht beschreibt die Technology Review etwa Fälle von Journalistinnen, von denen Deep-Fake-Nacktaufnahmen erstellt und verbreitet wurden, was zu massiven Belästigungen geführt habe. In Kalifornien wurde bereits vor zwei Jahren eine gesetzliche Regulierung für Deep Fakes diskutiert, die Betroffenen eine bessere Klagemöglichkeit zum Vorgehen gegen derartige Inhalte liefert. In China ist eine Veröffentlichung von Deep-Fake-Inhalten bereits verboten.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Ph4te 17. Sep 2021 / Themenstart

Nicht zu vergessen, dass das Grundgesetz eh nicht angewendet werden kann, vermute ich...

Ph4te 17. Sep 2021 / Themenstart

Deepfakes an sich sind wahnsinnig cool. LucasArts meine ich hatte doch vor kurzem sogar...

freundlicherGnom 16. Sep 2021 / Themenstart

Kacken ist auch das natürlichste von der Welt, dennoch möchtest du keine Videos von dir...

Dakkaron 16. Sep 2021 / Themenstart

Ist doch hier auch verboten.

Dakkaron 16. Sep 2021 / Themenstart

Ja, du hast schon recht, das auch echte Fotos durch geeignetes Framing leicht etwas...

Kommentieren



Aktuell auf der Startseite von Golem.de
Datenleck
Daten von 106 Millionen Thailand-Reisenden geleakt

In einer ungeschützten Datenbank fanden sich die Daten der Thailand-Reisenden aus den letzten zehn Jahren - inklusive Reisepassnummern.

Datenleck: Daten von 106 Millionen Thailand-Reisenden geleakt
Artikel
  1. Laserbeamer: Xiaomis Kurzdistanzprojektor kostet unter 1.500 Euro
    Laserbeamer
    Xiaomis Kurzdistanzprojektor kostet unter 1.500 Euro

    Der Fengmi R1 kann aus der Nähe Bilder von 50 bis 200 Zoll aufspannen und kostet relativ wenig. Dafür macht er bei der Auflösung Abstriche.

  2. Betriebssystem: Einige Windows-11-Apps funktionieren nicht ohne Internet
    Betriebssystem
    Einige Windows-11-Apps funktionieren nicht ohne Internet

    Um Platz zu sparen, müssen sich einige vorinstallierte Windows-11-Apps mit dem Internet verbinden. Auch ein Microsoft-Konto ist dafür nötig.

  3. Weihnachtsgeschäft: Amazon benötigt wieder 10.000 Saisonkräfte
    Weihnachtsgeschäft
    Amazon benötigt wieder 10.000 Saisonkräfte

    Amazon stellt im Weihnachtsgeschäft wieder viele Befristete ein und zahlt angeblich 12 Euro brutto.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Asus 23,8" FHD 144Hz 166,90€ • PS5 bei Amazon zu gewinnen • Gaming-PC mit Ryzen 5 & RTX 3060 999€ • Corsair MP600 Pro 1TB mit Heatspreader PS5-kompatibel 162,90€ • Alternate (u. a. Asus WLAN-Adapter PCIe 24,90€) • MM-Prospekt (u. a. Asus TUF 17" i5 RTX 3050 1.099€) [Werbung]
    •  /