Deep-Learning-Systeme austricksen

Wie dieses Adversarial Learning funktioniert, erläuterte Jarmul in ihrem Vortrag zu "Blinden Flecken beim maschinellen Lernen". Mit solchen Verfahren sollen selbstlernende Systeme dazu gebracht werden, "falsch" zu lernen, beispielsweise Spam-Mails nicht als Spam oder Malware nicht als Schadecode zu erkennen. Gefährliche Angriffe könnten damit auch gegen selbstfahrende Autos ausgeführt werden. So hatten US-Wissenschaftler zuletzt mit manipulierten Verkehrsschildern die Kamerasysteme genarrt.

Stellenmarkt
  1. Mathematiker, Statistiker, Aktuar im Aktuariat (m/w/d)
    Allianz Deutschland AG, Unterföhring
  2. Senior Service Manager ServiceNow (m/w/d)
    operational services GmbH & Co. KG, verschiedene Standorte
Detailsuche

Inwieweit Systeme aufgrund der bewusst manipulierten Ausgangsdaten tatsächlich falsch lernen oder nur das bisher Gelernte falsch anwenden, ist jedoch unklar. Autofirmen sehen beispielsweise den Einsatz von lernenden Algorithmen, die das Fahrverhalten während der Fahrzeugnutzung ändern können, derzeit nicht vor. Damit soll gewährleistet werden, dass sich ein Fahrzeug immer reproduzierbar verhält und nicht seine eigenen Verkehrsregeln aufstellt. Problematisch könnte es hingegen werden, wenn ganze Fahrzeugflotten sich falsch im Verkehr verhielten und die Algorithmen entsprechend angepasst würden.

Digitale Selbstverteidigung mit feindlichem Lernen

Für Jarmul können einige der genannten Angriffe auch der digitalen Selbstverteidigung dienen, um die Rechte der Nutzer vor der zunehmenden Ausforschung durch die großen IT-Konzerne oder staatliche Behörden zu schützen. Auf diese Weise ließen sich beispielsweise die privaten Daten "vergiften", um deren Analyse durch KI-Systeme zu erschweren. Als einfaches Beispiel nannte sie die Möglichkeit, ein persönliches Foto solange zu verfremden, bis es von Facebook nicht mehr als Gesicht erkannt werde. Auch eine Art Geheimschrift ließe sich mit solchen Verfahren entwickeln.

Die historischen und politischen Hintergründe dieser Entwicklung hatte der Berliner Informatiker und Philosoph Rainer Rehak bereits am Mittwoch zu analysieren versucht. Seiner Ansicht nach steht hinter der Datensammelwut von Konzernen und Regierungen auch der totalitäre Ansatz, alles berechenbar machen zu wollen. Nach dem Motto "Mehr Daten heißt mehr Wissen" würde das Datensammeln zum Selbstzweck erklärt. Daten würden zu Fetisch.

Hat man Angst vor der KI oder den Firmen?

Golem Akademie
  1. Unreal Engine 4 Grundlagen: virtueller Drei-Tage-Workshop
    28. Februar–2. März 2022, Virtuell
  2. Einführung in die Programmierung mit Rust: virtueller Fünf-Halbtage-Workshop
    21.–25. März 2022, Virtuell
Weitere IT-Trainings

Rehak sieht dahinter eine "unheilige Allianz" von wirtschaftlich sehr starken Firmen sowie Staaten, die aufgrund der neoliberalen Wirtschaftsordnung finanziell angeschlagen seien. "Halbverstandene Datenlösungen versprechen schnelle Erfolge", sagte Rehak. Als Beispiel nannte er die Geheimdienste, die immer mehr Daten bekämen, aber die Datenmenge inzwischen gar nicht mehr bewältigen könnten. Es sei jedoch zweifelhaft, ob die digitale Revolution des Silicon Valley die Welt zu einem besseren Ort mache, und wer davon profitiere.

Am Ende stelle sich daher die Frage: "Hat man Angst vor einer KI, oder hat man Angst vor Unternehmen, die mit KI ihre eigenen Ziele durchsetzen?", sagte Rehak. Anders als Spiele oder die Wirtschaft lasse sich die Gesellschaft nicht so leicht modellieren und mit Computerprogrammen abbilden oder berechnen. Auf Kriterien wie soziale Einbindung, Akzeptanz, Offenheit, Transparenz und Grundrechte ließen sich solche Systeme nur schwer ausrichten. Demokratie sei nicht immer effizient zu organisieren.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Künstliche Intelligenz: Die dummen Computer noch dümmer machenNoch kein Ausweg aus dem Dilemma 
  1.  
  2. 1
  3. 2
  4. 3
  5.  


Marlborofranz 15. Jan 2018

Und wann sind diese perfekt? Wie findet man das heraus? Ich will ja nichts sagen, aber...

Aki-San 03. Jan 2018

Für "die Maschine" existiert weder das rassistisch noch das menschenfeindlich. Beides ist...

Aki-San 03. Jan 2018

Selbst KIs, sofern diese sich noch nicht selbst die Algorithmen vorgeben sind auch nur so...

Kasjsf38 01. Jan 2018

Der Homo Sapien sowie alle anderen Tiere sind auch nichts anderes als "organische...

intergeek 31. Dez 2017

Google, Facebook und co sind ja kein Problem. Ich vertraue Facebook nicht und daher...



Aktuell auf der Startseite von Golem.de
Corona-Warn-App
Jede geteilte Warnung kostete 100 Euro

Die Bundesregierung hat für die Corona-Warn-App bisher mehr als 130 Millionen Euro ausgegeben. Derzeit gibt es besonders viele rote Warnungen.

Corona-Warn-App: Jede geteilte Warnung kostete 100 Euro
Artikel
  1. Hohe Lichtstärke: Nikon stellt 400-mm-Objektiv mit f2,8 vor
    Hohe Lichtstärke
    Nikon stellt 400-mm-Objektiv mit f2,8 vor

    Nikon bringt mit dem Nikkor Z 400 mm 1:2,8 TC VR S ein besonders lichtstarkes Teleobjektiv mit integriertem Telekonverter auf den Markt.

  2. Activision Blizzard: Was passiert mit Call of Duty, Diablo und Xbox Game Pass?
    Activision Blizzard
    Was passiert mit Call of Duty, Diablo und Xbox Game Pass?

    Playstation als Verlierer und Exklusivspiele für den Xbox Game Pass: Golem.de über die bislang größte Übernahme durch Microsoft.
    Eine Analyse von Peter Steinlechner

  3. Konzeptfahrzeug: Elektrisches Wohnmobil von Winnebago vorgestellt
    Konzeptfahrzeug
    Elektrisches Wohnmobil von Winnebago vorgestellt

    Winnebago hat das Konzeptfahrzeug für ein künftiges Wohnmobil mit Elektroantrieb vorgestellt, das auf dem Ford Transit basiert.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • RTX 3090 2.399€ • LG OLED (2021) 40% günstiger (u.a. 65" 1.599€) • RTX 3060 Ti 799€ • MindStar (u.a. 32GB DDR5-6000 389€) • Seagate Firecuda 530 1TB inkl. Kühlkörper + 20€ PSN-Guthaben 189,90€ • HP Omen Gaming-Stuhl 319€ [Werbung]
    •  /