Facemagic: Deepfake-App wirbt mit womöglich illegalen Porno-Montagen

Eine KI-App für Deepfakes wirbt damit, auch pornografische Montagen erstellen zu können. Das ergaben Recherchen von Vice.

Artikel veröffentlicht am , Lennart Mühlenmeier
Mit Facemagic sollen sich Porno-Montagen erstellen lassen. Das dürfte in Deutschland illegal sein.
Mit Facemagic sollen sich Porno-Montagen erstellen lassen. Das dürfte in Deutschland illegal sein. (Bild: charlesdeluvio/Unsplash-Lizenz)

Die Deepfake-App Facemagic wirbt auf Pornoseiten damit, auch pornografische Montagen erstellen zu können. In den Appstores hingegen wird sie als harmlose Spaß-App beworben.

Stellenmarkt
  1. Ingenieur Validierung & Verifikation für mechatronische Fahrwerkaktuatoren (m/w/d)
    Schaeffler Technologies AG & Co. KG, Herzogenaurach
  2. Consultant Agile Coach (m/w/d)
    Lidl Digital, Neckarsulm
Detailsuche

In manchen Staaten der USA sind solche Fakes illegal, wie Recherchen von Vice ergaben. Auch in Deutschland dürfte die Erstellung illegal sein.

Gegen ein monatliches 10-Dollar-Abonnement könnten Nutzer in den USA die besagte Funktion buchen, schreibt Vice. Zur Nutzung bedürfe es einer Porträtaufnahme und eines Pornovideos. Daraus entstehe dann mittels künstlicher Intelligenz eine Montage, die beides vereine.

Facemagic ist sich illegaler Verwendung offenbar bewusst

Vice hat die App getestet. Durch das Abonnement bekommen Nutzer Tokens, die eingelöst werden können - auch für die Porno-Funktion. Die App soll laut Vice einen Hinweis enthalten, dass sie nicht für illegale Zwecke verwendet werden solle. Die App verstößt aber laut Vice nicht gegen die Store-Regeln, da sie die Porno-Funktion nicht im Store bewirbt.

Golem Akademie
  1. Kotlin für Java-Entwickler: virtueller Zwei-Tage-Workshop
    01./02.06.2022, Virtuell
  2. Container Management und Orchestrierung: virtueller Drei-Tage-Workshop
    22.-24.08.2022, Virtuell
Weitere IT-Trainings

Jedoch wirbt Facemagic dem Bericht zufolge auf Pornoseiten wie Spankbang, Rule34.xxx, Imagefap, und Iporntoo. Im deutschen Google Playstore finden sich keine Hinweise auf eine sexualisierte Verwendungsmöglichkeit. Die App befindet sich in der Rubrik Unterhaltung. Laut Vice hat die App im US-Store eine Einordnung als "sexueller Inhalt".

Porno-Montagen laut Anwalt in Deutschland strafbar

Laut Rechtsanwalt Christian Solmecke können Nutzer solcher Funktionen in Deutschland gegen das Grundgesetz und das Strafgesetzbuch verstoßen. So schreibt Solmecke: "Regelmäßig [wird] das Persönlichkeitsrecht der abgebildeten Person aus Art. 2 Abs. 1, Art. 1 Grundgesetz (GG) verletzt."

Weiter heißt es: "Strafrechtlich kann man zudem den Ex-Freund wegen Beleidigung, Verleumdung oder übler Nachrede (§§ 185 - 187 Strafgesetzbuch, StGB) sowie wegen des Verstoßes gegen § 33 KunstUrhG anzeigen." In dem Beispiel des Rechtsanwalts geht es um einen Exfreund, der Rache an einem ehemaligen Partner nehmen will.

Seit Jahren wird das Problem mit Deepfakes aus verschiedenen Blickwinkeln thematisiert. Im Jahr 2021 bewarb eine andere App die gleiche Funktion der Porno-Montagen. Erst kürzlich warnte Europol vor der Verwendung von Deepfakes durch Kriminelle. Auch im Rahmen des Ukrainekriegs tauchten gefälschte Videos auf, etwa eines des ukrainischen Präsidenten, der angeblich die Kapitulation verkündete.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Raspberry Pi
Besser gießen mit Raspi und Xiaomi-Pflanzensensor

Wer keinen grünen Daumen hat, kann sich von Sensoren helfen lassen. Komfortabel sind sie aber erst, wenn die Daten automatisch ausgelesen werden.
Eine Anleitung von Thomas Hahn

Raspberry Pi: Besser gießen mit Raspi und Xiaomi-Pflanzensensor
Artikel
  1. Heimkino und Hi-Fi: Onkyo meldet Konkurs an
    Heimkino und Hi-Fi
    Onkyo meldet Konkurs an

    Onkyo hat beim Bezirksgericht Osaka Konkurs angemeldet. Ob das überschuldete Unternehmen gerettet werden kann, ist ungewiss.

  2. Framedeck: Bastler verwandelt Framework Laptop in Retro-Terminal-PC
    Framedeck
    Bastler verwandelt Framework Laptop in Retro-Terminal-PC

    Mainboard und der Akku des Framework Laptop bilden die Grundlage des Framedeck, das seinerseits von einem PC der 80er inspiriert wurde.

  3. Bundesländer: Umweltminister einig über Autobahn-Tempolimit
    Bundesländer
    Umweltminister einig über Autobahn-Tempolimit

    Die Landesumweltminister der Bundesländer haben sich einstimmig für ein Tempolimit auf Autobahnen ausgesprochen. Was fehlt, ist dessen Höhe.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Cyber Week: Bis zu 46% Rabatt auf Mäuse & Tastaturen • Grafikkarten günstig wie nie (u. a. RTX 3080 Ti 12GB 1.285€) • Samsung SSD 1TB (PS5-komp.) günstig wie nie: 143,99€ • Microsoft Surface günstig wie nie • Jubiläumsangebote bei MediaMarkt • Bosch Prof. bis zu 53% günstiger [Werbung]
    •  /