Machine Learning: Kalifornien will gegen Deep-Fake-Pornografie vorgehen

Gal Gadot in einem Porno und Obama, der Trump beleidigt: Kalifornien will stärker gegen mit Hilfe von KI gefälschten Videos vorgehen. Der Upload solcher Inhalte soll verboten werden. Die Intention sei gut, allerdings auch eine Einschränkung der Meinungsäußerung, meinen Bürgerrechtler.

Artikel veröffentlicht am ,
Sylvester Stallone in Terminator 2: Judgement Day
Sylvester Stallone in Terminator 2: Judgement Day (Bild: Youtube/Ctrl Shift Face)

Der US-Bundesstaat Kalifornien ermöglicht es Betroffenen, gegen den Einsatz von Gesichtsveränderungssoftware wie Deep Fakes zu klagen. Gleich zwei Gesetzesentwürfe werden diesbezüglich vorgelegt. Mit dem einen wird es illegal, derart manipulierte Videos hochzuladen. Der zweite gibt Bürgern des Bundesstaates das Recht, gegen manipulierte pornografische Inhalte mit ihren darin eingefügten Gesichtern vorzugehen. Das berichtet der Tech-Blog Engadget.

Stellenmarkt
  1. Digital Officer (m/w/d)
    Richter-Helm BioLogics GmbH & Co. KG, Hamburg
  2. Senior Berater Informationssicherheit (gn)
    ESG Elektroniksystem- und Logistik-GmbH, Koblenz
Detailsuche

Beides ist mit Gesichtserkennungssoftware bereits relativ einfach machbar. So wurde das Gesicht von Barack Obama über das Abbild eines Schauspielers gelegt. Im Video beleidigt der Ex-Präsident augenscheinlich den derzeitigen US-Präsidenten Donald Trump - eine Fälschung, die bereits sehr echt wirkt. Schon damals haben Wissenschaftler vor dem Missbrauch einer solchen Technik gewarnt.

Die Technik könne laut dem kalifornischen Abgeordneten Marc Berman für den Einfluss politischer Meinungen missbraucht werden. "Das macht Deep-Fake-Technik ein mächtiges aber gefährliches neues Werkzeug im Arsenal derer, die Falschinformationskampagnen verbreiten und Wähler verwirren wollen.", sagt er. Die Bürgerrechtsbewegung American Civil Liberties Union sieht hinter den neuen Gesetzen zwar gute Intentionen, aber auch eine Einschränkung der freien Meinungsäußerung. Sie seien nicht die Lösung für das Problem.

Mit gefälschter Pornografie fing es an

Eine weitere Applikation, die mit Machine Learning Täuschungen erzeugte, war der Nacktgenerator Deepnude. Darüber konnten Nutzer Fotos von bekleideten Frauen virtuell entkleiden. Trainiert wurde das System an pornografischen Motiven aus dem Internet. Auch in diesem Fall dürfte der neue Gesetzesentwurf greifen können.

Schon 2017 stellte ein Reddit-Nutzer unter dem Suchbegriff Deep Fakes (mittlerweile gesperrt) manipulierte Pornovideos ins Internet, die Wonder-Woman-Darstellerin Gal Gadot und andere Schauspielerinnen wie Emma Watson und Scarlett Johansson beim Sex zeigten. Das verwendete Machine-Learning-Modell wurde mit Szenen aus Spielfilmen trainiert.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Fifa, Battlefield und Co.
Der EA-Hack startete mit Cookies für 10 US-Dollar

Die Hacking-Gruppe erklärt dem Magazin Motherboard Schritt für Schritt, wie der Hack auf EA gelang. Die primäre Fehlerquelle: der Mensch.

Fifa, Battlefield und Co.: Der EA-Hack startete mit Cookies für 10 US-Dollar
Artikel
  1. Weltraumtourismus: Schwerelosigkeit für über 150.000 US-Dollar pro Sekunde
    Weltraumtourismus
    Schwerelosigkeit für über 150.000 US-Dollar pro Sekunde

    Das erste Ticket für einen Touristenflug mit der New Shepard Rakete wurde versteigert. Mit dabei: Eine Spritztour mit dem reichsten Mann der Welt.

  2. Ubisoft: Avatar statt Assassin's Creed
    Ubisoft
    Avatar statt Assassin's Creed

    E3 2021 Als wichtigste Neuheit hat Ubisoft ein Spiel auf Basis von Avatar vorgestellt - und Assassin's Creed muss mit Valhalla in die Verlängerung.

  3. Deutsche Bahn: Nur 12 Prozent der Bahnhöfe bieten WIFI@DB
    Deutsche Bahn
    Nur 12 Prozent der Bahnhöfe bieten WIFI@DB

    Am schnellsten geht es da, wo die Fahrkartenautomaten von der Deutschen Bahn zu WLAN-Hotspots aufgerüstet wurden.

Terence01 16. Okt 2019

Und Verbrecher freuen sich dann obendrein...

Hotohori 10. Okt 2019

Eben nicht, Deepfakes an sich wären nicht verboten, aber nur für den privaten Gebrauch...

Elgareth 09. Okt 2019

Je suis Charlie und so lässt grüßen. War also scheinbar doch keine Karikatur :-P


Folgen Sie uns
       


Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • Alternate (u. a. MSI Optix 27" WQHD/165 Hz 315,99€ und Fractal Design Vector RS Blackout Dark TG 116,89€) • Corsair Hydro H80i V2 RGB 73,50€ • Apple iPad 10.2 389€ • Razer Book 13 1.158,13€ • Fractal Design Define S2 Black 99,90€ • Intel i9-11900 379€ • EPOS Sennheiser GSP 600 149€ [Werbung]
    •  /