• IT-Karriere:
  • Services:

Machine Learning: Kalifornien will gegen Deep-Fake-Pornografie vorgehen

Gal Gadot in einem Porno und Obama, der Trump beleidigt: Kalifornien will stärker gegen mit Hilfe von KI gefälschten Videos vorgehen. Der Upload solcher Inhalte soll verboten werden. Die Intention sei gut, allerdings auch eine Einschränkung der Meinungsäußerung, meinen Bürgerrechtler.

Artikel veröffentlicht am ,
Sylvester Stallone in Terminator 2: Judgement Day
Sylvester Stallone in Terminator 2: Judgement Day (Bild: Youtube/Ctrl Shift Face)

Der US-Bundesstaat Kalifornien ermöglicht es Betroffenen, gegen den Einsatz von Gesichtsveränderungssoftware wie Deep Fakes zu klagen. Gleich zwei Gesetzesentwürfe werden diesbezüglich vorgelegt. Mit dem einen wird es illegal, derart manipulierte Videos hochzuladen. Der zweite gibt Bürgern des Bundesstaates das Recht, gegen manipulierte pornografische Inhalte mit ihren darin eingefügten Gesichtern vorzugehen. Das berichtet der Tech-Blog Engadget.

Stellenmarkt
  1. Hottgenroth Software GmbH & Co. KG, Köln
  2. sunzinet, Köln, Paderborn

Beides ist mit Gesichtserkennungssoftware bereits relativ einfach machbar. So wurde das Gesicht von Barack Obama über das Abbild eines Schauspielers gelegt. Im Video beleidigt der Ex-Präsident augenscheinlich den derzeitigen US-Präsidenten Donald Trump - eine Fälschung, die bereits sehr echt wirkt. Schon damals haben Wissenschaftler vor dem Missbrauch einer solchen Technik gewarnt.

Die Technik könne laut dem kalifornischen Abgeordneten Marc Berman für den Einfluss politischer Meinungen missbraucht werden. "Das macht Deep-Fake-Technik ein mächtiges aber gefährliches neues Werkzeug im Arsenal derer, die Falschinformationskampagnen verbreiten und Wähler verwirren wollen.", sagt er. Die Bürgerrechtsbewegung American Civil Liberties Union sieht hinter den neuen Gesetzen zwar gute Intentionen, aber auch eine Einschränkung der freien Meinungsäußerung. Sie seien nicht die Lösung für das Problem.

Mit gefälschter Pornografie fing es an

Eine weitere Applikation, die mit Machine Learning Täuschungen erzeugte, war der Nacktgenerator Deepnude. Darüber konnten Nutzer Fotos von bekleideten Frauen virtuell entkleiden. Trainiert wurde das System an pornografischen Motiven aus dem Internet. Auch in diesem Fall dürfte der neue Gesetzesentwurf greifen können.

Schon 2017 stellte ein Reddit-Nutzer unter dem Suchbegriff Deep Fakes (mittlerweile gesperrt) manipulierte Pornovideos ins Internet, die Wonder-Woman-Darstellerin Gal Gadot und andere Schauspielerinnen wie Emma Watson und Scarlett Johansson beim Sex zeigten. Das verwendete Machine-Learning-Modell wurde mit Szenen aus Spielfilmen trainiert.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Hardware-Angebote
  1. (reduzierte Überstände, Restposten & Co.)

Terence01 16. Okt 2019

Und Verbrecher freuen sich dann obendrein...

Hotohori 10. Okt 2019

Eben nicht, Deepfakes an sich wären nicht verboten, aber nur für den privaten Gebrauch...

Elgareth 09. Okt 2019

Je suis Charlie und so lässt grüßen. War also scheinbar doch keine Karikatur :-P


Folgen Sie uns
       


Razer Eracing Simulator ausprobiert (CES 2020)

Der Eracing Simulator von Razer versucht, das Fahrgefühl in einem Rennwagen wiederzugeben. Dank Motoren und einer großen Leinwand ist die Immersion sehr gut, wie Golem.de im Hands on feststellen konnte.

Razer Eracing Simulator ausprobiert (CES 2020) Video aufrufen
Mint-Allianz Wir bleiben schlau!: Wir bleiben unwissend!
Mint-Allianz Wir bleiben schlau!
Wir bleiben unwissend!

Mit "Wir bleiben schlau!" experimentieren Schüler online. Nervig ist es, sich im Wirrwarr des MINT-Angebots der Regierung zurechtzufinden.
Ein IMHO von Oliver Nickel

  1. Programmieren lernen Informatik-Apps für Kinder sind oft zu komplex

Alternatives Android im Test: /e/ will Google ersetzen
Alternatives Android im Test
/e/ will Google ersetzen

Wie Google, nur mit Privatsphäre - /e/ verbindet ein alternatives Android mit Cloudfunktionen und einer Suchmaschine.
Ein Test von Moritz Tremmel


    Schenker Via 14 im Test: Leipziger Langläufer-Laptop
    Schenker Via 14 im Test
    Leipziger Langläufer-Laptop

    Dank 73-Wattstunden-Akku hält das 14-Zoll-Ultrabook von Schenker trotz fast komplett aufrüstbarer Hardware lange durch.
    Ein Test von Marc Sauter

    1. XMG Neo 15 (E20) Schenker erhöht Akkukapazität um 50 Prozent
    2. XMG Apex 15 Schenker packt 16C-Ryzen in Notebook
    3. XMG Fusion 15 Schenkers Gaming-Laptop soll 10 Stunden durchhalten

      •  /