Abo
  • Services:

Deep-Learning-Systeme austricksen

Wie dieses Adversarial Learning funktioniert, erläuterte Jarmul in ihrem Vortrag zu "Blinden Flecken beim maschinellen Lernen". Mit solchen Verfahren sollen selbstlernende Systeme dazu gebracht werden, "falsch" zu lernen, beispielsweise Spam-Mails nicht als Spam oder Malware nicht als Schadecode zu erkennen. Gefährliche Angriffe könnten damit auch gegen selbstfahrende Autos ausgeführt werden. So hatten US-Wissenschaftler zuletzt mit manipulierten Verkehrsschildern die Kamerasysteme genarrt.

Stellenmarkt
  1. maxon motor GmbH, Sexau nahe Freiburg im Breisgau
  2. Rolls-Royce Power Systems AG, Friedrichshafen

Inwieweit Systeme aufgrund der bewusst manipulierten Ausgangsdaten tatsächlich falsch lernen oder nur das bisher Gelernte falsch anwenden, ist jedoch unklar. Autofirmen sehen beispielsweise den Einsatz von lernenden Algorithmen, die das Fahrverhalten während der Fahrzeugnutzung ändern können, derzeit nicht vor. Damit soll gewährleistet werden, dass sich ein Fahrzeug immer reproduzierbar verhält und nicht seine eigenen Verkehrsregeln aufstellt. Problematisch könnte es hingegen werden, wenn ganze Fahrzeugflotten sich falsch im Verkehr verhielten und die Algorithmen entsprechend angepasst würden.

Digitale Selbstverteidigung mit feindlichem Lernen

Für Jarmul können einige der genannten Angriffe auch der digitalen Selbstverteidigung dienen, um die Rechte der Nutzer vor der zunehmenden Ausforschung durch die großen IT-Konzerne oder staatliche Behörden zu schützen. Auf diese Weise ließen sich beispielsweise die privaten Daten "vergiften", um deren Analyse durch KI-Systeme zu erschweren. Als einfaches Beispiel nannte sie die Möglichkeit, ein persönliches Foto solange zu verfremden, bis es von Facebook nicht mehr als Gesicht erkannt werde. Auch eine Art Geheimschrift ließe sich mit solchen Verfahren entwickeln.

Die historischen und politischen Hintergründe dieser Entwicklung hatte der Berliner Informatiker und Philosoph Rainer Rehak bereits am Mittwoch zu analysieren versucht. Seiner Ansicht nach steht hinter der Datensammelwut von Konzernen und Regierungen auch der totalitäre Ansatz, alles berechenbar machen zu wollen. Nach dem Motto "Mehr Daten heißt mehr Wissen" würde das Datensammeln zum Selbstzweck erklärt. Daten würden zu Fetisch.

Hat man Angst vor der KI oder den Firmen?

Rehak sieht dahinter eine "unheilige Allianz" von wirtschaftlich sehr starken Firmen sowie Staaten, die aufgrund der neoliberalen Wirtschaftsordnung finanziell angeschlagen seien. "Halbverstandene Datenlösungen versprechen schnelle Erfolge", sagte Rehak. Als Beispiel nannte er die Geheimdienste, die immer mehr Daten bekämen, aber die Datenmenge inzwischen gar nicht mehr bewältigen könnten. Es sei jedoch zweifelhaft, ob die digitale Revolution des Silicon Valley die Welt zu einem besseren Ort mache, und wer davon profitiere.

Am Ende stelle sich daher die Frage: "Hat man Angst vor einer KI, oder hat man Angst vor Unternehmen, die mit KI ihre eigenen Ziele durchsetzen?", sagte Rehak. Anders als Spiele oder die Wirtschaft lasse sich die Gesellschaft nicht so leicht modellieren und mit Computerprogrammen abbilden oder berechnen. Auf Kriterien wie soziale Einbindung, Akzeptanz, Offenheit, Transparenz und Grundrechte ließen sich solche Systeme nur schwer ausrichten. Demokratie sei nicht immer effizient zu organisieren.

 Künstliche Intelligenz: Die dummen Computer noch dümmer machenNoch kein Ausweg aus dem Dilemma 
  1.  
  2. 1
  3. 2
  4. 3
  5.  


Anzeige
Hardware-Angebote
  1. ab 225€
  2. 34,99€
  3. (reduzierte Überstände, Restposten & Co.)

Marlborofranz 15. Jan 2018

Und wann sind diese perfekt? Wie findet man das heraus? Ich will ja nichts sagen, aber...

Aki-San 03. Jan 2018

Für "die Maschine" existiert weder das rassistisch noch das menschenfeindlich. Beides ist...

Aki-San 03. Jan 2018

Selbst KIs, sofern diese sich noch nicht selbst die Algorithmen vorgeben sind auch nur so...

Kasjsf38 01. Jan 2018

Der Homo Sapien sowie alle anderen Tiere sind auch nichts anderes als "organische...

intergeek 31. Dez 2017

Google, Facebook und co sind ja kein Problem. Ich vertraue Facebook nicht und daher...


Folgen Sie uns
       


Nokia 9 Pureview - Hands on (MWC 2019)

Das neue Nokia 9 Pureview von HMD Global verspricht mit seinen fünf Hauptkameras eine verbesserte Bildqualität. Wir haben das im Hands on überprüft.

Nokia 9 Pureview - Hands on (MWC 2019) Video aufrufen
Geforce GTX 1660 im Test: Für 230 Euro eine faire Sache
Geforce GTX 1660 im Test
Für 230 Euro eine faire Sache

Die Geforce GTX 1660 - ohne Ti am Ende - rechnet so flott wie AMDs Radeon RX 590 und kostet in etwa das Gleiche. Der klare Vorteil der Nvidia-Grafikkarte ist die drastisch geringere Leistungsaufnahme.

  1. EC2 G4 AWS nutzt Nvidias Tesla T4 für Inferencing-Cloud
  2. Nvidia Turing OBS unterstützt Encoder der Geforce RTX
  3. Geforce GTX 1660 Ti im Test Nvidia kann Turing auch günstig(er)

Uploadfilter: Der Generalangriff auf das Web 2.0
Uploadfilter
Der Generalangriff auf das Web 2.0

Die EU-Urheberrechtsreform könnte Plattformen mit nutzergenerierten Inhalten stark behindern. Die Verfechter von Uploadfiltern zeigen dabei ein Verständnis des Netzes, das mit der Realität wenig zu tun hat. Statt Lizenzen könnte es einen anderen Ausweg geben.
Eine Analyse von Friedhelm Greis

  1. Europawahlen Facebook will mit dpa Falschnachrichten bekämpfen
  2. Urheberrecht Europas IT-Firmen und Bibliotheken gegen Uploadfilter
  3. Pauschallizenzen CDU will ihre eigenen Uploadfilter verhindern

Einfuhrsteuern: Wie teuer wird ein Raspberry Pi beim harten Brexit?
Einfuhrsteuern
Wie teuer wird ein Raspberry Pi beim harten Brexit?

Bei einem No-Deal-Brexit könnten viele britische Produkte teurer und schwerer lieferbar werden - auch der populäre Bastelrechner Raspberry Pi. Mit genauen Prognosen tun sich deutsche Elektronikhändler derzeit schwer, doch decken sie sich schon vorsorglich mit den Komponenten ein.
Ein Bericht von Friedhelm Greis

  1. UK und Gibraltar EU-Domains durch Brexit doch wieder in Gefahr

    •  /