Machine Learning: Kalifornien will gegen Deep-Fake-Pornografie vorgehen

Gal Gadot in einem Porno und Obama, der Trump beleidigt: Kalifornien will stärker gegen mit Hilfe von KI gefälschten Videos vorgehen. Der Upload solcher Inhalte soll verboten werden. Die Intention sei gut, allerdings auch eine Einschränkung der Meinungsäußerung, meinen Bürgerrechtler.

Artikel veröffentlicht am 8. Oktober 2019, 16:48 Uhr, Oliver Nickel

Sylvester Stallone in Terminator 2: Judgement Day (Bild: Youtube/Ctrl Shift Face)

Der US-Bundesstaat Kalifornien ermöglicht es Betroffenen, gegen den Einsatz von Gesichtsveränderungssoftware wie Deep Fakes zu klagen. Gleich zwei Gesetzesentwürfe werden diesbezüglich vorgelegt. Mit dem einen wird es illegal, derart manipulierte Videos hochzuladen. Der zweite gibt Bürgern des Bundesstaates das Recht, gegen manipulierte pornografische Inhalte mit ihren darin eingefügten Gesichtern vorzugehen. Das berichtet der Tech-Blog Engadget.

Beides ist mit Gesichtserkennungssoftware bereits relativ einfach machbar. So wurde das Gesicht von Barack Obama über das Abbild eines Schauspielers gelegt. Im Video beleidigt der Ex-Präsident augenscheinlich den derzeitigen US-Präsidenten Donald Trump - eine Fälschung, die bereits sehr echt wirkt. Schon damals haben Wissenschaftler vor dem Missbrauch einer solchen Technik gewarnt.

Die Technik könne laut dem kalifornischen Abgeordneten Marc Berman für den Einfluss politischer Meinungen missbraucht werden. "Das macht Deep-Fake-Technik ein mächtiges aber gefährliches neues Werkzeug im Arsenal derer, die Falschinformationskampagnen verbreiten und Wähler verwirren wollen.", sagt er. Die Bürgerrechtsbewegung American Civil Liberties Union sieht hinter den neuen Gesetzen zwar gute Intentionen, aber auch eine Einschränkung der freien Meinungsäußerung. Sie seien nicht die Lösung für das Problem.

Mit gefälschter Pornografie fing es an

Eine weitere Applikation, die mit Machine Learning Täuschungen erzeugte, war der Nacktgenerator Deepnude. Darüber konnten Nutzer Fotos von bekleideten Frauen virtuell entkleiden. Trainiert wurde das System an pornografischen Motiven aus dem Internet. Auch in diesem Fall dürfte der neue Gesetzesentwurf greifen können.

Schon 2017 stellte ein Reddit-Nutzer unter dem Suchbegriff Deep Fakes (mittlerweile gesperrt) manipulierte Pornovideos ins Internet, die Wonder-Woman-Darstellerin Gal Gadot und andere Schauspielerinnen wie Emma Watson und Scarlett Johansson beim Sex zeigten. Das verwendete Machine-Learning-Modell wurde mit Szenen aus Spielfilmen trainiert.