Abo
  • Services:

Deep-Learning-Systeme austricksen

Wie dieses Adversarial Learning funktioniert, erläuterte Jarmul in ihrem Vortrag zu "Blinden Flecken beim maschinellen Lernen". Mit solchen Verfahren sollen selbstlernende Systeme dazu gebracht werden, "falsch" zu lernen, beispielsweise Spam-Mails nicht als Spam oder Malware nicht als Schadecode zu erkennen. Gefährliche Angriffe könnten damit auch gegen selbstfahrende Autos ausgeführt werden. So hatten US-Wissenschaftler zuletzt mit manipulierten Verkehrsschildern die Kamerasysteme genarrt.

Stellenmarkt
  1. Robert Bosch GmbH, Reutlingen
  2. ADG Apotheken-Dienstleistungsgesellschaft mbH, Mannheim

Inwieweit Systeme aufgrund der bewusst manipulierten Ausgangsdaten tatsächlich falsch lernen oder nur das bisher Gelernte falsch anwenden, ist jedoch unklar. Autofirmen sehen beispielsweise den Einsatz von lernenden Algorithmen, die das Fahrverhalten während der Fahrzeugnutzung ändern können, derzeit nicht vor. Damit soll gewährleistet werden, dass sich ein Fahrzeug immer reproduzierbar verhält und nicht seine eigenen Verkehrsregeln aufstellt. Problematisch könnte es hingegen werden, wenn ganze Fahrzeugflotten sich falsch im Verkehr verhielten und die Algorithmen entsprechend angepasst würden.

Digitale Selbstverteidigung mit feindlichem Lernen

Für Jarmul können einige der genannten Angriffe auch der digitalen Selbstverteidigung dienen, um die Rechte der Nutzer vor der zunehmenden Ausforschung durch die großen IT-Konzerne oder staatliche Behörden zu schützen. Auf diese Weise ließen sich beispielsweise die privaten Daten "vergiften", um deren Analyse durch KI-Systeme zu erschweren. Als einfaches Beispiel nannte sie die Möglichkeit, ein persönliches Foto solange zu verfremden, bis es von Facebook nicht mehr als Gesicht erkannt werde. Auch eine Art Geheimschrift ließe sich mit solchen Verfahren entwickeln.

Die historischen und politischen Hintergründe dieser Entwicklung hatte der Berliner Informatiker und Philosoph Rainer Rehak bereits am Mittwoch zu analysieren versucht. Seiner Ansicht nach steht hinter der Datensammelwut von Konzernen und Regierungen auch der totalitäre Ansatz, alles berechenbar machen zu wollen. Nach dem Motto "Mehr Daten heißt mehr Wissen" würde das Datensammeln zum Selbstzweck erklärt. Daten würden zu Fetisch.

Hat man Angst vor der KI oder den Firmen?

Rehak sieht dahinter eine "unheilige Allianz" von wirtschaftlich sehr starken Firmen sowie Staaten, die aufgrund der neoliberalen Wirtschaftsordnung finanziell angeschlagen seien. "Halbverstandene Datenlösungen versprechen schnelle Erfolge", sagte Rehak. Als Beispiel nannte er die Geheimdienste, die immer mehr Daten bekämen, aber die Datenmenge inzwischen gar nicht mehr bewältigen könnten. Es sei jedoch zweifelhaft, ob die digitale Revolution des Silicon Valley die Welt zu einem besseren Ort mache, und wer davon profitiere.

Am Ende stelle sich daher die Frage: "Hat man Angst vor einer KI, oder hat man Angst vor Unternehmen, die mit KI ihre eigenen Ziele durchsetzen?", sagte Rehak. Anders als Spiele oder die Wirtschaft lasse sich die Gesellschaft nicht so leicht modellieren und mit Computerprogrammen abbilden oder berechnen. Auf Kriterien wie soziale Einbindung, Akzeptanz, Offenheit, Transparenz und Grundrechte ließen sich solche Systeme nur schwer ausrichten. Demokratie sei nicht immer effizient zu organisieren.

 Künstliche Intelligenz: Die dummen Computer noch dümmer machenNoch kein Ausweg aus dem Dilemma 
  1.  
  2. 1
  3. 2
  4. 3
  5.  


Anzeige
Spiele-Angebote
  1. (-15%) 23,79€
  2. (u. a. Assassin's Creed Origins PC für 29€)
  3. 12,99€

Marlborofranz 15. Jan 2018

Und wann sind diese perfekt? Wie findet man das heraus? Ich will ja nichts sagen, aber...

Aki-San 03. Jan 2018

Für "die Maschine" existiert weder das rassistisch noch das menschenfeindlich. Beides ist...

Aki-San 03. Jan 2018

Selbst KIs, sofern diese sich noch nicht selbst die Algorithmen vorgeben sind auch nur so...

Kasjsf38 01. Jan 2018

Der Homo Sapien sowie alle anderen Tiere sind auch nichts anderes als "organische...

intergeek 31. Dez 2017

Google, Facebook und co sind ja kein Problem. Ich vertraue Facebook nicht und daher...


Folgen Sie uns
       


Amazons Fire HD 10 Kids Edition - Hands on

Das Fire HD 10 Kids Edition ist das neue Kinder-Tablet von Amazon. Das Tablet entspricht dem normalen Fire HD 10 und wird mit speziellen Dreingaben ergänzt. So gibt es eine Gummiummantelung, um Stürze abzufangen. Außerdem gehört der Dienst Freetime Unlimited für ein Jahr ohne Aufpreis dazu. Das Fire HD 10 Kids Edition kostet 200 Euro. Falls das Tablet innerhalb von zwei Jahren nach dem Kauf kaputtgeht, wird es ausgetauscht.

Amazons Fire HD 10 Kids Edition - Hands on Video aufrufen
Cruijff Arena: Ed Sheeran singt mit Strom aus Nissan-Leaf-Akkus
Cruijff Arena
Ed Sheeran singt mit Strom aus Nissan-Leaf-Akkus

Die Johann-Cruijff-Arena in Amsterdam ist weltweit das erste Stadion, das seine Energieversorgung mit einem Speichersystem sichert, das aus Akkus von Elektroautos besteht. Der englische Sänger Ed Sheeran hat mit dem darin gespeichertem Solarstrom schon seine Gitarre verstärkt.
Ein Bericht von Dirk Kunde

  1. Energiewende Warum die Bundesregierung ihre Versprechen nicht hält
  2. Max Bögl Wind Das höchste Windrad steht bei Stuttgart

Youtube Music, Deezer und Amazon Music: Musikstreaming buchen ist auf dem iPhone teurer
Youtube Music, Deezer und Amazon Music
Musikstreaming buchen ist auf dem iPhone teurer

Wer seinen Musikstreamingdienst auf einem iPhone oder iPad bucht, muss oftmals mehr bezahlen als andere Kunden. Der Grund liegt darin, dass Apple - außer bei eigenen Diensten - einen Aufschlag von 30 Prozent behält. Spotify hat Konsequenzen gezogen.
Ein Bericht von Ingo Pakalski

  1. Filme und Serien Nutzung von kostenpflichtigem Streaming steigt stark an
  2. Highend-PC-Streaming Man kann sogar die Grafikkarte deaktivieren
  3. Golem.de-Livestream Halbgott oder Despot?

Razer Blade 15 im Test: Schlanker 15,6-Zöller für Gamer gefällt uns
Razer Blade 15 im Test
Schlanker 15,6-Zöller für Gamer gefällt uns

Das Razer Blade 15 ist ein gutes Spiele-Notebook mit flottem Display und schneller Geforce-Grafikeinheit. Anders als im 14-Zoll-Formfaktor ist bei den 15,6-Zoll-Modellen die Konkurrenz aber deutlich größer.
Ein Test von Marc Sauter

  1. Gaming-Notebook Razer packt Hexacore und Geforce GTX 1070 ins Blade 15
  2. Razer Blade 2017 im Test Das beste Gaming-Ultrabook nun mit 4K

    •  /