Abo
  • Services:

Deep-Learning-Systeme austricksen

Wie dieses Adversarial Learning funktioniert, erläuterte Jarmul in ihrem Vortrag zu "Blinden Flecken beim maschinellen Lernen". Mit solchen Verfahren sollen selbstlernende Systeme dazu gebracht werden, "falsch" zu lernen, beispielsweise Spam-Mails nicht als Spam oder Malware nicht als Schadecode zu erkennen. Gefährliche Angriffe könnten damit auch gegen selbstfahrende Autos ausgeführt werden. So hatten US-Wissenschaftler zuletzt mit manipulierten Verkehrsschildern die Kamerasysteme genarrt.

Stellenmarkt
  1. NetCare Business Solutions GmbH, Neustetten
  2. Bundeskriminalamt, Berlin

Inwieweit Systeme aufgrund der bewusst manipulierten Ausgangsdaten tatsächlich falsch lernen oder nur das bisher Gelernte falsch anwenden, ist jedoch unklar. Autofirmen sehen beispielsweise den Einsatz von lernenden Algorithmen, die das Fahrverhalten während der Fahrzeugnutzung ändern können, derzeit nicht vor. Damit soll gewährleistet werden, dass sich ein Fahrzeug immer reproduzierbar verhält und nicht seine eigenen Verkehrsregeln aufstellt. Problematisch könnte es hingegen werden, wenn ganze Fahrzeugflotten sich falsch im Verkehr verhielten und die Algorithmen entsprechend angepasst würden.

Digitale Selbstverteidigung mit feindlichem Lernen

Für Jarmul können einige der genannten Angriffe auch der digitalen Selbstverteidigung dienen, um die Rechte der Nutzer vor der zunehmenden Ausforschung durch die großen IT-Konzerne oder staatliche Behörden zu schützen. Auf diese Weise ließen sich beispielsweise die privaten Daten "vergiften", um deren Analyse durch KI-Systeme zu erschweren. Als einfaches Beispiel nannte sie die Möglichkeit, ein persönliches Foto solange zu verfremden, bis es von Facebook nicht mehr als Gesicht erkannt werde. Auch eine Art Geheimschrift ließe sich mit solchen Verfahren entwickeln.

Die historischen und politischen Hintergründe dieser Entwicklung hatte der Berliner Informatiker und Philosoph Rainer Rehak bereits am Mittwoch zu analysieren versucht. Seiner Ansicht nach steht hinter der Datensammelwut von Konzernen und Regierungen auch der totalitäre Ansatz, alles berechenbar machen zu wollen. Nach dem Motto "Mehr Daten heißt mehr Wissen" würde das Datensammeln zum Selbstzweck erklärt. Daten würden zu Fetisch.

Hat man Angst vor der KI oder den Firmen?

Rehak sieht dahinter eine "unheilige Allianz" von wirtschaftlich sehr starken Firmen sowie Staaten, die aufgrund der neoliberalen Wirtschaftsordnung finanziell angeschlagen seien. "Halbverstandene Datenlösungen versprechen schnelle Erfolge", sagte Rehak. Als Beispiel nannte er die Geheimdienste, die immer mehr Daten bekämen, aber die Datenmenge inzwischen gar nicht mehr bewältigen könnten. Es sei jedoch zweifelhaft, ob die digitale Revolution des Silicon Valley die Welt zu einem besseren Ort mache, und wer davon profitiere.

Am Ende stelle sich daher die Frage: "Hat man Angst vor einer KI, oder hat man Angst vor Unternehmen, die mit KI ihre eigenen Ziele durchsetzen?", sagte Rehak. Anders als Spiele oder die Wirtschaft lasse sich die Gesellschaft nicht so leicht modellieren und mit Computerprogrammen abbilden oder berechnen. Auf Kriterien wie soziale Einbindung, Akzeptanz, Offenheit, Transparenz und Grundrechte ließen sich solche Systeme nur schwer ausrichten. Demokratie sei nicht immer effizient zu organisieren.

 Künstliche Intelligenz: Die dummen Computer noch dümmer machenNoch kein Ausweg aus dem Dilemma 
  1.  
  2. 1
  3. 2
  4. 3
  5.  


Anzeige
Blu-ray-Angebote
  1. (u. a. Der Marsianer, Spaceballs, Titanic, Batman v Superman)
  2. (u. a. Deadpool, Alien Covenant, Assassins Creed)
  3. 4,99€

Marlborofranz 15. Jan 2018

Und wann sind diese perfekt? Wie findet man das heraus? Ich will ja nichts sagen, aber...

Aki-San 03. Jan 2018

Für "die Maschine" existiert weder das rassistisch noch das menschenfeindlich. Beides ist...

Aki-San 03. Jan 2018

Selbst KIs, sofern diese sich noch nicht selbst die Algorithmen vorgeben sind auch nur so...

Kasjsf38 01. Jan 2018

Der Homo Sapien sowie alle anderen Tiere sind auch nichts anderes als "organische...

intergeek 31. Dez 2017

Google, Facebook und co sind ja kein Problem. Ich vertraue Facebook nicht und daher...


Folgen Sie uns
       


Genfer Autosalon 2018 - Bericht

Wir fassen den Genfer Autosalon 2018 im Video zusammen.

Genfer Autosalon 2018 - Bericht Video aufrufen
Thermalright ARO-M14 ausprobiert: Der den Ryzen kühlt
Thermalright ARO-M14 ausprobiert
Der den Ryzen kühlt

Mit dem ARO-M14 bringt Thermalright eine Ryzen-Version des populären HR-02 Macho Rev B. Der in zwei Farben erhältliche CPU-Kühler leistet viel und ist leise, zudem hat Thermalright die Montage etwas verbessert.
Ein Hands on von Marc Sauter


    Dell XPS 13 (9370) im Test: Sehr gut ist nicht besser
    Dell XPS 13 (9370) im Test
    Sehr gut ist nicht besser

    Mit dem XPS 13 (9370) hat Dell sein bisher exzellentes Ultrabook in nahezu allen Bereichen überarbeitet - und es teilweise verschlechtert. Der Akku etwa ist kleiner, das spiegelnde Display nervt. Dafür überzeugen die USB-C-Ports, die Kühlung sowie die Tastatur, und die Webcam wurde sinnvoller.
    Ein Test von Marc Sauter und Sebastian Grüner

    1. Ultrabook Dell hat das XPS 13 ruiniert
    2. XPS 13 (9370) Dells Ultrabook wird dünner und läuft kürzer
    3. Ultrabook Dell aktualisiert XPS 13 mit Quadcore-Chip

    Datenschutz: Der Nutzer ist willig, doch die AGB sind schwach
    Datenschutz
    Der Nutzer ist willig, doch die AGB sind schwach

    Verbraucher verstehen die Texte oft nicht wirklich, in denen Unternehmen erklären, wie ihre Daten verarbeitet werden. Datenschutzexperten und -forscher suchen daher nach praktikablen Lösungen.
    Ein Bericht von Christiane Schulzki-Haddouti

    1. Soziales Netzwerk Facebook will in Deutschland Vertrauen wiedergewinnen
    2. Denial of Service Facebook löscht Cybercrime-Gruppen mit 300.000 Mitgliedern
    3. Facebook-Anhörung Zuckerbergs Illusion von der vollen Kontrolle

      •  /