Facemagic: Deepfake-App wirbt mit womöglich illegalen Porno-Montagen

Eine KI-App für Deepfakes wirbt damit, auch pornografische Montagen erstellen zu können. Das ergaben Recherchen von Vice.

Artikel veröffentlicht am , Lennart Mühlenmeier
Mit Facemagic sollen sich Porno-Montagen erstellen lassen. Das dürfte in Deutschland illegal sein.
Mit Facemagic sollen sich Porno-Montagen erstellen lassen. Das dürfte in Deutschland illegal sein. (Bild: charlesdeluvio/Unsplash-Lizenz)

Die Deepfake-App Facemagic wirbt auf Pornoseiten damit, auch pornografische Montagen erstellen zu können. In den Appstores hingegen wird sie als harmlose Spaß-App beworben.

Stellenmarkt
  1. Solution Owner (m/w/d) Infrastructure
    RWE AG, Essen
  2. Projektmanager (m/w/d) technische Studioausstattung
    RSG Group GmbH, Berlin
Detailsuche

In manchen Staaten der USA sind solche Fakes illegal, wie Recherchen von Vice ergaben. Auch in Deutschland dürfte die Erstellung illegal sein.

Gegen ein monatliches 10-Dollar-Abonnement könnten Nutzer in den USA die besagte Funktion buchen, schreibt Vice. Zur Nutzung bedürfe es einer Porträtaufnahme und eines Pornovideos. Daraus entstehe dann mittels künstlicher Intelligenz eine Montage, die beides vereine.

Facemagic ist sich illegaler Verwendung offenbar bewusst

Vice hat die App getestet. Durch das Abonnement bekommen Nutzer Tokens, die eingelöst werden können - auch für die Porno-Funktion. Die App soll laut Vice einen Hinweis enthalten, dass sie nicht für illegale Zwecke verwendet werden solle. Die App verstößt aber laut Vice nicht gegen die Store-Regeln, da sie die Porno-Funktion nicht im Store bewirbt.

Golem Karrierewelt
  1. Green IT: Praxisratgeber zur nachhaltigen IT-Nutzung (virtueller Ein-Tages-Workshop)
    26.10.2022, virtuell
  2. Adobe Photoshop für Social Media Anwendungen: virtueller Zwei-Tage-Workshop
    24./25.08.2022, virtuell
Weitere IT-Trainings

Jedoch wirbt Facemagic dem Bericht zufolge auf Pornoseiten wie Spankbang, Rule34.xxx, Imagefap, und Iporntoo. Im deutschen Google Playstore finden sich keine Hinweise auf eine sexualisierte Verwendungsmöglichkeit. Die App befindet sich in der Rubrik Unterhaltung. Laut Vice hat die App im US-Store eine Einordnung als "sexueller Inhalt".

Porno-Montagen laut Anwalt in Deutschland strafbar

Laut Rechtsanwalt Christian Solmecke können Nutzer solcher Funktionen in Deutschland gegen das Grundgesetz und das Strafgesetzbuch verstoßen. So schreibt Solmecke: "Regelmäßig [wird] das Persönlichkeitsrecht der abgebildeten Person aus Art. 2 Abs. 1, Art. 1 Grundgesetz (GG) verletzt."

Weiter heißt es: "Strafrechtlich kann man zudem den Ex-Freund wegen Beleidigung, Verleumdung oder übler Nachrede (§§ 185 - 187 Strafgesetzbuch, StGB) sowie wegen des Verstoßes gegen § 33 KunstUrhG anzeigen." In dem Beispiel des Rechtsanwalts geht es um einen Exfreund, der Rache an einem ehemaligen Partner nehmen will.

Seit Jahren wird das Problem mit Deepfakes aus verschiedenen Blickwinkeln thematisiert. Im Jahr 2021 bewarb eine andere App die gleiche Funktion der Porno-Montagen. Erst kürzlich warnte Europol vor der Verwendung von Deepfakes durch Kriminelle. Auch im Rahmen des Ukrainekriegs tauchten gefälschte Videos auf, etwa eines des ukrainischen Präsidenten, der angeblich die Kapitulation verkündete.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Videostandards
Wie das Bild auf den Schirm kommt

Was ist der Unterschied zwischen Displayport und HDMI? In einer kleinen Geschichtsstunde erklären wir, wie Bilddaten zum Monitor kommen.
Von Johannes Hiltscher

Videostandards: Wie das Bild auf den Schirm kommt
Artikel
  1. Data Mesh: Herr der Daten
    Data Mesh
    Herr der Daten

    Von Datensammelwut und Data Lake zu Pragmatismus und Data Mesh - ein Kulturwandel.
    Von Mario Meir-Huber

  2. iPhone-Bildschirm: iOS 16 mit abermals veränderter Akkuanzeige
    iPhone-Bildschirm
    iOS 16 mit abermals veränderter Akkuanzeige

    Apple hat teilweise auf die Kritik an der Akkuanzeige in iOS 16 reagiert. In der Beta 6 gibt es mehr Einstellmöglichkeiten im Energiesparmodus.

  3. Thorsten Dirks: Schon wieder Führungswechsel bei Deutsche Glasfaser
    Thorsten Dirks
    Schon wieder Führungswechsel bei Deutsche Glasfaser

    Nach kurzer Zeit verlässt Thorsten Dirks die Deutsche Glasfaser. Dies sei angeblich seit Langem so geplant gewesen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Günstig wie nie: Zotac RTX 3080 12GB 829€, Mac mini 16GB 1.047,26€. WD SSD 2TB (PS5) 199,99€ • MindStar (Sapphire RX 6900XT 939€, G.Skill DDR4-3200 32GB 98€) • PS5 bestellbar • Alternate (Apple iPad günstiger) • Games für PS5/PS4 bis 84% günstiger • Bester 2.000€-Gaming-PC[Werbung]
    •  /