Abo
  • Services:

Noch kein Ausweg aus dem Dilemma

Einen überzeugenden Ausweg aus dem Dilemma der Programmierer konnten die Redner auf dem 34C3 nicht präsentieren. Zum einen ist zu erwarten, dass die selbstlernenden Systeme mit besserer Soft- und Hardware immer "intelligenter" werden. Zum anderen besteht die Gefahr, dass Menschen zu Objekten von Computerentscheidungen werden, die trotz allem nicht fehlerfrei und deren Kriterien alles andere als transparent sind. Solche Gefahren bestehen beispielsweise, wenn Systeme zur Gesichtserkennung nicht nur gegen wenige Straftäter, sondern großflächig zur Überwachung der Bevölkerung eingesetzt werden. Eine Gefahr, vor der nicht nur Datenschützer, sondern auch der Chaos Computer Club warnen.

Stellenmarkt
  1. Bosch Gruppe, Reutlingen
  2. Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO, Stuttgart, Esslingen

Jarmul verwies in diesem Zusammenhang auf die europäische Datenschutzgrundverordnung, die im Mai 2018 in Kraft tritt. Diese sehe immerhin vor, dass eine Kreditvergabe nicht ausschließlich auf der Basis einer Computerentscheidung getroffen werden dürfe. Zudem könnten Nutzer ihre Daten solchen Unternehmen geben, die anders als Google oder Facebook nicht alleine auf dem Verkaufen von Anzeigen aufgebaut seien. Heuer hatte in seinem Vortrag hingegen gezeigt, dass eine menschliche Kontrollinstanz wenig nützen könne. So seien Bewährungshelferinnen in den USA begeistert von der intransparenten Bewertungssoftware für Straftäter, wie aus einem Beitrag des Deutschlandfunks aus dem vergangenen Jahr (PDF) hervorgehe.

Maschinelles Lernen wird kaum zu stoppen sein

Zudem musste auch Jarmul am Ende einräumen: "Maschinelles Lernen ist nicht sehr intelligent, aber das bedeutet nicht, dass sein Wachstum stoppen oder nachlassen wird." Es gebe sehr schlaue und reiche Leute, die mehr denn je in KI investierten. Daher könne die Technik mit der Zeit noch gefährlicher werden und mehr Aspekte des Lebens kontrollieren.

Es ist daher abzusehen, dass das Thema KI noch längere Zeit die kritischen Hacker beschäftigen wird. Anders als beispielsweise in China könnten zumindest in westlichen Staaten noch mit politischen Entscheidungen der flächendeckende Einsatz solcher Systeme zum Scoring oder zur Gesichtserkennung eingedämmt werden. Sonst könnten Computer wirklich sehr doof werden und nicht nur, wie im Spliff-Song, morgens zu früh den Wecker klingeln lassen.

 Deep-Learning-Systeme austricksen
  1.  
  2. 1
  3. 2
  4. 3


Anzeige
Spiele-Angebote
  1. 19,95€
  2. 25,99€
  3. 24,99€
  4. (-81%) 5,75€

Marlborofranz 15. Jan 2018

Und wann sind diese perfekt? Wie findet man das heraus? Ich will ja nichts sagen, aber...

Aki-San 03. Jan 2018

Für "die Maschine" existiert weder das rassistisch noch das menschenfeindlich. Beides ist...

Aki-San 03. Jan 2018

Selbst KIs, sofern diese sich noch nicht selbst die Algorithmen vorgeben sind auch nur so...

Kasjsf38 01. Jan 2018

Der Homo Sapien sowie alle anderen Tiere sind auch nichts anderes als "organische...

intergeek 31. Dez 2017

Google, Facebook und co sind ja kein Problem. Ich vertraue Facebook nicht und daher...


Folgen Sie uns
       


Odroid Go - Test

Mit dem Odroid Go kann man Doom spielen - aber dank seines ESP32-Mikrocontrollers ist er auch für Hard- und Softwarebastler empfehlenswert.

Odroid Go - Test Video aufrufen
Yuneec H520: 3D-Modell aus der Drohne
Yuneec H520
3D-Modell aus der Drohne

Multikopter werden zunehmend auch kommerziell verwendet. Vor allem machen die Drohnen Luftbilder und Inspektionsflüge und vermessen. Wir haben in der Praxis getestet, wie gut das mit dem Yuneec H520 funktioniert.
Von Dirk Koller


    Requiem zur Cebit: Es war einmal die beste Messe
    Requiem zur Cebit
    Es war einmal die beste Messe

    Nach 33 Jahren ist Schluss mit der Cebit und das ist mehr als schade. Wir waren dabei, als sie noch nicht nur die größte, sondern auch die beste Messe der Welt war - und haben dann erlebt, wie Trends verschlafen wurden. Ein Nachruf.
    Von Nico Ernst

    1. IT-Messe Die Cebit wird eingestellt

    IMHO: Valves Ka-Ching mit der Brechstange
    IMHO
    Valves "Ka-Ching" mit der Brechstange

    Es klingelt seit Jahren in den Kassen des Unternehmens von Gabe Newell. Dabei ist die Firma tief verschuldet - und zwar in den Herzen der Gamer.
    Ein IMHO von Michael Wieczorek

    1. Artifact im Test Zusammengewürfelt und potenziell teuer
    2. Artifact Erste Kritik an Kosten von Valves Sammelkartenspiel
    3. Virtual Reality Valve arbeitet an VR-Headset und Half-Life-Titel

      •  /