Facemagic: Deepfake-App wirbt mit womöglich illegalen Porno-Montagen

Eine KI-App für Deepfakes wirbt damit, auch pornografische Montagen erstellen zu können. Das ergaben Recherchen von Vice.

Artikel veröffentlicht am 11. Mai 2022, 14:39 Uhr, Lennart Mühlenmeier

Mit Facemagic sollen sich Porno-Montagen erstellen lassen. Das dürfte in Deutschland illegal sein. (Bild: charlesdeluvio/Unsplash-Lizenz)

Die Deepfake-App Facemagic wirbt auf Pornoseiten damit, auch pornografische Montagen erstellen zu können. In den Appstores hingegen wird sie als harmlose Spaß-App beworben.

In manchen Staaten der USA sind solche Fakes illegal, wie Recherchen von Vice ergaben. Auch in Deutschland dürfte die Erstellung illegal sein.

Gegen ein monatliches 10-Dollar-Abonnement könnten Nutzer in den USA die besagte Funktion buchen, schreibt Vice. Zur Nutzung bedürfe es einer Porträtaufnahme und eines Pornovideos. Daraus entstehe dann mittels künstlicher Intelligenz eine Montage, die beides vereine.

Facemagic ist sich illegaler Verwendung offenbar bewusst

Vice hat die App getestet. Durch das Abonnement bekommen Nutzer Tokens, die eingelöst werden können - auch für die Porno-Funktion. Die App soll laut Vice einen Hinweis enthalten, dass sie nicht für illegale Zwecke verwendet werden solle. Die App verstößt aber laut Vice nicht gegen die Store-Regeln, da sie die Porno-Funktion nicht im Store bewirbt.

Jedoch wirbt Facemagic dem Bericht zufolge auf Pornoseiten wie Spankbang, Rule34.xxx, Imagefap, und Iporntoo. Im deutschen Google Playstore finden sich keine Hinweise auf eine sexualisierte Verwendungsmöglichkeit. Die App befindet sich in der Rubrik Unterhaltung. Laut Vice hat die App im US-Store eine Einordnung als "sexueller Inhalt".

Porno-Montagen laut Anwalt in Deutschland strafbar

Laut Rechtsanwalt Christian Solmecke können Nutzer solcher Funktionen in Deutschland gegen das Grundgesetz und das Strafgesetzbuch verstoßen. So schreibt Solmecke: "Regelmäßig [wird] das Persönlichkeitsrecht der abgebildeten Person aus Art. 2 Abs. 1, Art. 1 Grundgesetz (GG) verletzt."

Weiter heißt es: "Strafrechtlich kann man zudem den Ex-Freund wegen Beleidigung, Verleumdung oder übler Nachrede (§§ 185 - 187 Strafgesetzbuch, StGB) sowie wegen des Verstoßes gegen § 33 KunstUrhG anzeigen." In dem Beispiel des Rechtsanwalts geht es um einen Exfreund, der Rache an einem ehemaligen Partner nehmen will.

Seit Jahren wird das Problem mit Deepfakes aus verschiedenen Blickwinkeln thematisiert. Im Jahr 2021 bewarb eine andere App die gleiche Funktion der Porno-Montagen. Erst kürzlich warnte Europol vor der Verwendung von Deepfakes durch Kriminelle. Auch im Rahmen des Ukrainekriegs tauchten gefälschte Videos auf, etwa eines des ukrainischen Präsidenten, der angeblich die Kapitulation verkündete.