Noch kein Ausweg aus dem Dilemma

Einen überzeugenden Ausweg aus dem Dilemma der Programmierer konnten die Redner auf dem 34C3 nicht präsentieren. Zum einen ist zu erwarten, dass die selbstlernenden Systeme mit besserer Soft- und Hardware immer "intelligenter" werden. Zum anderen besteht die Gefahr, dass Menschen zu Objekten von Computerentscheidungen werden, die trotz allem nicht fehlerfrei und deren Kriterien alles andere als transparent sind. Solche Gefahren bestehen beispielsweise, wenn Systeme zur Gesichtserkennung nicht nur gegen wenige Straftäter, sondern großflächig zur Überwachung der Bevölkerung eingesetzt werden. Eine Gefahr, vor der nicht nur Datenschützer, sondern auch der Chaos Computer Club warnen.

Stellenmarkt
  1. IT Solutions Engineer SAP BI Analytics (m/w/d)
    Schaeffler Technologies AG & Co. KG, Schweinfurt
  2. Informatiker (Fachinformatiker) als Softwareentwickler (m/w/d) für C#
    Connext Communication GmbH, Paderborn
Detailsuche

Jarmul verwies in diesem Zusammenhang auf die europäische Datenschutzgrundverordnung, die im Mai 2018 in Kraft tritt. Diese sehe immerhin vor, dass eine Kreditvergabe nicht ausschließlich auf der Basis einer Computerentscheidung getroffen werden dürfe. Zudem könnten Nutzer ihre Daten solchen Unternehmen geben, die anders als Google oder Facebook nicht alleine auf dem Verkaufen von Anzeigen aufgebaut seien. Heuer hatte in seinem Vortrag hingegen gezeigt, dass eine menschliche Kontrollinstanz wenig nützen könne. So seien Bewährungshelferinnen in den USA begeistert von der intransparenten Bewertungssoftware für Straftäter, wie aus einem Beitrag des Deutschlandfunks aus dem vergangenen Jahr (PDF) hervorgehe.

Maschinelles Lernen wird kaum zu stoppen sein

Zudem musste auch Jarmul am Ende einräumen: "Maschinelles Lernen ist nicht sehr intelligent, aber das bedeutet nicht, dass sein Wachstum stoppen oder nachlassen wird." Es gebe sehr schlaue und reiche Leute, die mehr denn je in KI investierten. Daher könne die Technik mit der Zeit noch gefährlicher werden und mehr Aspekte des Lebens kontrollieren.

Es ist daher abzusehen, dass das Thema KI noch längere Zeit die kritischen Hacker beschäftigen wird. Anders als beispielsweise in China könnten zumindest in westlichen Staaten noch mit politischen Entscheidungen der flächendeckende Einsatz solcher Systeme zum Scoring oder zur Gesichtserkennung eingedämmt werden. Sonst könnten Computer wirklich sehr doof werden und nicht nur, wie im Spliff-Song, morgens zu früh den Wecker klingeln lassen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Deep-Learning-Systeme austricksen
  1.  
  2. 1
  3. 2
  4. 3


Marlborofranz 15. Jan 2018

Und wann sind diese perfekt? Wie findet man das heraus? Ich will ja nichts sagen, aber...

Aki-San 03. Jan 2018

Für "die Maschine" existiert weder das rassistisch noch das menschenfeindlich. Beides ist...

Aki-San 03. Jan 2018

Selbst KIs, sofern diese sich noch nicht selbst die Algorithmen vorgeben sind auch nur so...

Kasjsf38 01. Jan 2018

Der Homo Sapien sowie alle anderen Tiere sind auch nichts anderes als "organische...

intergeek 31. Dez 2017

Google, Facebook und co sind ja kein Problem. Ich vertraue Facebook nicht und daher...



Aktuell auf der Startseite von Golem.de
Digitalisierung
500-Euro-Laptops für Lehrer "leistungsfähig und gut nutzbar"

Das Land NRW hat seine Lehrkräfte mit Dienst-Laptops ausgestattet. Doch diese äußern deutliche Kritik und verwenden wohl weiter private Geräte.

Digitalisierung: 500-Euro-Laptops für Lehrer leistungsfähig und gut nutzbar
Artikel
  1. Krypto-Währung: El Salvador nutzt Talfahrt des Bitcoin für großen Ankauf
    Krypto-Währung
    El Salvador nutzt Talfahrt des Bitcoin für großen Ankauf

    Die selbsternannte Bitcoin-Nation El Salvador hat die aktuelle Schwäche der Währung ausgenutzt und eingekauft - offenbar am Smartphone.

  2. My2022: Pflicht-App für Olympia 2022 aus China leckt Daten
    My2022
    Pflicht-App für Olympia 2022 aus China leckt Daten

    Wer an Olympia 2022 in China teilnimmt, muss die App MY2022 nutzen. Die hat allerdings Sicherheitsprobleme.

  3. Radeon RX 6500 XT: Diese Karte hätte es früher(TM) nie gegeben
    Radeon RX 6500 XT
    Diese Karte hätte es früher(TM) nie gegeben

    In Zeiten irrer Grafikkarten-Preise wird ein winziger Laptop- als überteuerter Gaming-Desktop-Chip verkauft. Eine ebenso perfide wie geniale Idee.
    Eine Analyse von Marc Sauter

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • RTX 3080 Ti 12GB 1.699€ • Intel i9-10900K 444,88€ • Huawei Curved Gaming-Monitor 27" 299€ • Hisense-TVs zu Bestpreisen (u. a. 55" OLED 739€) • RX 6900 1.449€ • MindStar (u.a. Intel i7-10700KF 279€) • 4 Blu-rays für 22€ • LG OLED (2021) 77 Zoll 120Hz 2.799€ [Werbung]
    •  /