• IT-Karriere:
  • Services:

Machine Learning: Kalifornien will gegen Deep-Fake-Pornografie vorgehen

Gal Gadot in einem Porno und Obama, der Trump beleidigt: Kalifornien will stärker gegen mit Hilfe von KI gefälschten Videos vorgehen. Der Upload solcher Inhalte soll verboten werden. Die Intention sei gut, allerdings auch eine Einschränkung der Meinungsäußerung, meinen Bürgerrechtler.

Artikel veröffentlicht am ,
Sylvester Stallone in Terminator 2: Judgement Day
Sylvester Stallone in Terminator 2: Judgement Day (Bild: Youtube/Ctrl Shift Face)

Der US-Bundesstaat Kalifornien ermöglicht es Betroffenen, gegen den Einsatz von Gesichtsveränderungssoftware wie Deep Fakes zu klagen. Gleich zwei Gesetzesentwürfe werden diesbezüglich vorgelegt. Mit dem einen wird es illegal, derart manipulierte Videos hochzuladen. Der zweite gibt Bürgern des Bundesstaates das Recht, gegen manipulierte pornografische Inhalte mit ihren darin eingefügten Gesichtern vorzugehen. Das berichtet der Tech-Blog Engadget.

Stellenmarkt
  1. akquinet AG, Hamburg
  2. Kreisausschuss des Hochtaunuskreises, Bad Homburg

Beides ist mit Gesichtserkennungssoftware bereits relativ einfach machbar. So wurde das Gesicht von Barack Obama über das Abbild eines Schauspielers gelegt. Im Video beleidigt der Ex-Präsident augenscheinlich den derzeitigen US-Präsidenten Donald Trump - eine Fälschung, die bereits sehr echt wirkt. Schon damals haben Wissenschaftler vor dem Missbrauch einer solchen Technik gewarnt.

Die Technik könne laut dem kalifornischen Abgeordneten Marc Berman für den Einfluss politischer Meinungen missbraucht werden. "Das macht Deep-Fake-Technik ein mächtiges aber gefährliches neues Werkzeug im Arsenal derer, die Falschinformationskampagnen verbreiten und Wähler verwirren wollen.", sagt er. Die Bürgerrechtsbewegung American Civil Liberties Union sieht hinter den neuen Gesetzen zwar gute Intentionen, aber auch eine Einschränkung der freien Meinungsäußerung. Sie seien nicht die Lösung für das Problem.

Mit gefälschter Pornografie fing es an

Eine weitere Applikation, die mit Machine Learning Täuschungen erzeugte, war der Nacktgenerator Deepnude. Darüber konnten Nutzer Fotos von bekleideten Frauen virtuell entkleiden. Trainiert wurde das System an pornografischen Motiven aus dem Internet. Auch in diesem Fall dürfte der neue Gesetzesentwurf greifen können.

Schon 2017 stellte ein Reddit-Nutzer unter dem Suchbegriff Deep Fakes (mittlerweile gesperrt) manipulierte Pornovideos ins Internet, die Wonder-Woman-Darstellerin Gal Gadot und andere Schauspielerinnen wie Emma Watson und Scarlett Johansson beim Sex zeigten. Das verwendete Machine-Learning-Modell wurde mit Szenen aus Spielfilmen trainiert.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Hardware-Angebote
  1. ab 2.174€
  2. (u. a. Xbox Series S für 290,99€, Xbox Wireless Controller Carbon Black/Robot White/Shock Blue...

Terence01 16. Okt 2019

Und Verbrecher freuen sich dann obendrein...

Hotohori 10. Okt 2019

Eben nicht, Deepfakes an sich wären nicht verboten, aber nur für den privaten Gebrauch...

Elgareth 09. Okt 2019

Je suis Charlie und so lässt grüßen. War also scheinbar doch keine Karikatur :-P


Folgen Sie uns
       


Besuch beim Cyberbunker

Wir haben uns den ominösen Cyberbunker an der Mosel oberhalb von Traben-Trarbach von außen angeschaut.

Besuch beim Cyberbunker Video aufrufen
Star Wars: Darth-Vader-Darsteller Dave Prowse ist tot
Star Wars
Darth-Vader-Darsteller Dave Prowse ist tot

Er war einer der großen Stars der originalen Star-Wars-Trilogie und doch kaum jemandem bekannt. David Prowse ist im Alter von 85 Jahren gestorben.
Ein Nachruf von Peter Osteried

  1. Spaceballs Möge der Saft mit euch sein
  2. The Mandalorian Erste Folge der zweiten Staffel ist online
  3. Star Wars Disney und Lego legen Star Wars Holiday Special neu auf

PC-Hardware: Warum Grafikkarten derzeit schlecht lieferbar sind
PC-Hardware
Warum Grafikkarten derzeit schlecht lieferbar sind

Eine RTX 3000 oder eine RX 6000 zu bekommen, ist schwierig: Eine hohe Nachfrage trifft auf Engpässe - ohne Entspannung in Sicht.
Eine Analyse von Marc Sauter

  1. Instinct MI100 AMDs erster CDNA-Beschleuniger ist extrem schnell
  2. Hardware-accelerated GPU Scheduling Besseres VRAM-Management unter Windows 10

No One Lives Forever: Ein Retrogamer stirbt nie
No One Lives Forever
Ein Retrogamer stirbt nie

Kompatibilitätsprobleme und schlimme Sprachausgabe - egal. Golem.de hat den 20 Jahre alten Shooter-Klassiker No One Lives Forever trotzdem neu gespielt.
Von Benedikt Plass-Fleßenkämper

  1. Heimcomputer Retro Games plant Amiga-500-Nachbau
  2. Klassische Spielkonzepte Retro, brandneu
  3. Gaming-Handheld Analogue Pocket erscheint erst 2021

    •  /