Machine Learning: Kalifornien will gegen Deep-Fake-Pornografie vorgehen

Gal Gadot in einem Porno und Obama, der Trump beleidigt: Kalifornien will stärker gegen mit Hilfe von KI gefälschten Videos vorgehen. Der Upload solcher Inhalte soll verboten werden. Die Intention sei gut, allerdings auch eine Einschränkung der Meinungsäußerung, meinen Bürgerrechtler.

Artikel veröffentlicht am ,
Sylvester Stallone in Terminator 2: Judgement Day
Sylvester Stallone in Terminator 2: Judgement Day (Bild: Youtube/Ctrl Shift Face)

Der US-Bundesstaat Kalifornien ermöglicht es Betroffenen, gegen den Einsatz von Gesichtsveränderungssoftware wie Deep Fakes zu klagen. Gleich zwei Gesetzesentwürfe werden diesbezüglich vorgelegt. Mit dem einen wird es illegal, derart manipulierte Videos hochzuladen. Der zweite gibt Bürgern des Bundesstaates das Recht, gegen manipulierte pornografische Inhalte mit ihren darin eingefügten Gesichtern vorzugehen. Das berichtet der Tech-Blog Engadget.

Stellenmarkt
  1. IT-Projektleiter Digitalisierung (m/w/d)
    Helios IT Service GmbH, Hamburg
  2. Teamleiter (w/m/d) IT-Projekt- & Produktmanagement
    Bw Bekleidungsmanagement GmbH, Köln
Detailsuche

Beides ist mit Gesichtserkennungssoftware bereits relativ einfach machbar. So wurde das Gesicht von Barack Obama über das Abbild eines Schauspielers gelegt. Im Video beleidigt der Ex-Präsident augenscheinlich den derzeitigen US-Präsidenten Donald Trump - eine Fälschung, die bereits sehr echt wirkt. Schon damals haben Wissenschaftler vor dem Missbrauch einer solchen Technik gewarnt.

Die Technik könne laut dem kalifornischen Abgeordneten Marc Berman für den Einfluss politischer Meinungen missbraucht werden. "Das macht Deep-Fake-Technik ein mächtiges aber gefährliches neues Werkzeug im Arsenal derer, die Falschinformationskampagnen verbreiten und Wähler verwirren wollen.", sagt er. Die Bürgerrechtsbewegung American Civil Liberties Union sieht hinter den neuen Gesetzen zwar gute Intentionen, aber auch eine Einschränkung der freien Meinungsäußerung. Sie seien nicht die Lösung für das Problem.

Mit gefälschter Pornografie fing es an

Eine weitere Applikation, die mit Machine Learning Täuschungen erzeugte, war der Nacktgenerator Deepnude. Darüber konnten Nutzer Fotos von bekleideten Frauen virtuell entkleiden. Trainiert wurde das System an pornografischen Motiven aus dem Internet. Auch in diesem Fall dürfte der neue Gesetzesentwurf greifen können.

Golem Akademie
  1. Scrum Product Owner: Vorbereitung auf den PSPO I (Scrum.org): virtueller Zwei-Tage-Workshop
    3.–4. März 2022, virtuell
  2. Informationssicherheit in der Automobilindustrie nach VDA-ISA und TISAX® mit Zertifikat: Zwei-Tage-Workshop
    22.–23. März 2022, Virtuell
Weitere IT-Trainings

Schon 2017 stellte ein Reddit-Nutzer unter dem Suchbegriff Deep Fakes (mittlerweile gesperrt) manipulierte Pornovideos ins Internet, die Wonder-Woman-Darstellerin Gal Gadot und andere Schauspielerinnen wie Emma Watson und Scarlett Johansson beim Sex zeigten. Das verwendete Machine-Learning-Modell wurde mit Szenen aus Spielfilmen trainiert.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Raumfahrt
SpaceX-Rakete stürzt voraussichtlich im März auf den Mond

Ob sich Elon Musk so die erste Ankunft einer SpaceX-Rakete auf dem Mond vorgestellt hat?

Raumfahrt: SpaceX-Rakete stürzt voraussichtlich im März auf den Mond
Artikel
  1. G413 SE, G413 TKL SE: Logitech bringt zwei mechanische Tastaturen für weniger Geld
    G413 SE, G413 TKL SE
    Logitech bringt zwei mechanische Tastaturen für weniger Geld

    Normalerweise sind mechanische Tastaturen von Logitech sehr teuer - nicht so die G413 SE und TKL SE. Die verzichten dafür auf RGB.

  2. Deutschland: E-Commerce wird immer mehr zum Normalfall
    Deutschland
    E-Commerce wird immer mehr zum Normalfall

    E-Commerce wird immer mehr als das Normale und Übliche empfunden, meint der Bundesverband E-Commerce und Versandhandel.

  3. Letzte Meile: Telekom will Preise für VDSL-Vermietung stark erhöhen
    Letzte Meile
    Telekom will Preise für VDSL-Vermietung stark erhöhen

    Die Telekom will von 1&1, Vodafone und Telefónica künftig erheblich mehr für die Anmietung der letzten Meile.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • RTX 3090 24GB 2.349€ • RTX 3070 Ti 8GB 1.039€ • 1TB SSD PCIe 4.0 127,67€ • RX 6900XT 16 GB 1.495€ • Razer Gaming-Tastatur 155€ • LG OLED 65 Zoll 1.599€ • Razer Gaming-Maus 39,99€ • RX 6800XT 16GB 1.229€ • GOG New Year Sale: bis zu 90% Rabatt • Razer Gaming-Stuhl 179,99€ [Werbung]
    •  /