Abo
  • Services:
Anzeige
Das verfremdete Foto rechts wird von Facebook nicht mehr als Gesicht erkannt.
Das verfremdete Foto rechts wird von Facebook nicht mehr als Gesicht erkannt. (Bild: media.ccc.de/Screenshot: Golem.de)

Künstliche Intelligenz: Die dummen Computer noch dümmer machen

Das verfremdete Foto rechts wird von Facebook nicht mehr als Gesicht erkannt.
Das verfremdete Foto rechts wird von Facebook nicht mehr als Gesicht erkannt. (Bild: media.ccc.de/Screenshot: Golem.de)

Computerbasierte Entscheidungen können schon heute das Leben vieler Menschen beeinflussen. Was dahintersteckt und wie man sich gegen künstliche Intelligenz wehren kann, haben Hacker auf dem Kongress des Chaos Computer Clubs gezeigt.
Eine Analyse von Friedhelm Greis

Dass Computer doof sind, wissen wir spätestens seit dem bekannten Spliff-Lied aus dem Jahr 1982. Doch seit den doofen Computern sogar zugetraut wird, selbstständig Auto zu fahren, und sie sich selbst beibringen können, die besten menschlichen Go-Spieler zu besiegen, scheint ihr Image deutlich besser zu werden - allerdings nicht bei den Hackern. Auf dem diesjährigen Kongress des Chaos Computer Clubs in Leipzig warnten mehrere Forscher vor den Gefahren der künstlichen Intelligenz (KI). "Wir wissen alle, wie dumm Computer manchmal sind, sie sind ziemlich schlimm", sagte die Datenanalystin Katharine Jarmul in ihrem Vortrag.

In vielen Projekten zur künstlichen Intelligenz geht es grob gesagt darum, Computern beizubringen, bestimmte Objekte und Situationen zu erkennen und von anderen zu unterscheiden (lat. intellegere), um daraus bestimmte Entscheidungen ableiten zu können. Sowohl Jarmul als auch die deutschen Forscher Karen Ullrich und Hendrik Heuer versuchten in ihren Beiträgen am Donnerstag, die Grundlagen von KI auf der Basis des sogenannten maschinellen Lernens mit Hilfe neuronaler Netze zu erläutern.

Anzeige

Bewertungsprogramme alles andere als neutral

Ihre wenig revolutionäre Erkenntnis: Computer sind alles andere als perfekt, wenn es beispielsweise darum geht, Spam-Mails von "richtigen" Mails zu unterscheiden oder potenzielle Straftäter von vermeintlich rechtschaffenen Bürgern. Ein selbstlernendes System werde zwar am Ende nie in der Lage sein, den Inhalt einer E-Mail zu verstehen, erläuterte Heuer. Allerdings könne es unter Berücksichtigung der Fehler seine Parameter verbessern, um eine höhere Trefferwahrscheinlichkeit bei Werbemails zu erzielen und seine Fehler künftig zu verringern.

Die Fehlerquoten hindern staatliche Behörden in den USA jedoch nicht daran, bereits heute Programme wie Compas einzusetzen, um die Wahrscheinlichkeit zu berechnen, mit der bestimmte Personen wieder eine Straftat begehen könnten. Das Problem: Die Programme seien alles andere als neutral und unvoreingenommen, heißt es in einer Untersuchung des US-Portals Propublica aus dem Jahr 2016. Afroamerikaner würden gegenüber Weißen systematisch diskriminiert. "Das macht Machine Learning, pseudo-objektive mathematische Modelle, zu einer Art Geldwäsche für Vorurteile", sagte Heuer.

Er ist ein Kerl, er ist eine Gastgeberin

Wie trivial sich dabei bestimmte Fehler erklären ließen, erläuterte Ullrich am Beispiel von Googles Übersetzungsprogramm. Werden die beiden deutschen Sätze "Sie ist eine Frau. Sie ist Ärztin" ins Türkische hin- und zurückübersetzt, lautet das Ergebnis: "Sie ist eine Frau. Er ist Arzt." Weil das Türkische keine grammatikalischen Geschlechter kenne, nehme Google die Aussage mit der höchsten Wahrscheinlichkeit bei der Übersetzung ins Deutsche. Der Kontext, in diesem Falle der vorangegangene Satz, spiele keine Rolle. Der Satz "Sie ist eine Frau, sie ist Ärztin", werde wegen des Kommas hingegen zusammen und damit korrekt hin und her übersetzt.

Ob hinter solchen Effekten tatsächlich gesellschaftliche Vorurteile stecken oder einfach nur schlechte Algorithmen, ist aber nicht so klar. So übersetzt Google den Satz "Sie ist eine Frau, sie ist eine Stewardess." hin und zurück aus dem Türkischen mit "Er ist ein Kerl, er ist eine Gastgeberin." Fehlt am Satzende der Punkt, wird das weibliche Geschlecht hingegen beibehalten. Angesichts dieses Unsinns stellt sich die Frage, ob es künftig wirklich sinnvoll sein könnte, die künstliche Intelligenz mit einem "feindlichen Lernen" zu foppen.

Deep-Learning-Systeme austricksen 

eye home zur Startseite
Marlborofranz 15. Jan 2018

Und wann sind diese perfekt? Wie findet man das heraus? Ich will ja nichts sagen, aber...

Themenstart

Aki-San 03. Jan 2018

Für "die Maschine" existiert weder das rassistisch noch das menschenfeindlich. Beides ist...

Themenstart

Aki-San 03. Jan 2018

Selbst KIs, sofern diese sich noch nicht selbst die Algorithmen vorgeben sind auch nur so...

Themenstart

Kasjsf38 01. Jan 2018

Der Homo Sapien sowie alle anderen Tiere sind auch nichts anderes als "organische...

Themenstart

intergeek 31. Dez 2017

Google, Facebook und co sind ja kein Problem. Ich vertraue Facebook nicht und daher...

Themenstart

Kommentieren



Anzeige

Stellenmarkt
  1. ITG Isotope Technologies Garching GmbH, Garching Raum München
  2. Münchner Verkehrs- und Tarifverbund GmbH (MVV), München
  3. ETAS GmbH, Stuttgart
  4. afb Application Services AG, München


Anzeige
Top-Angebote
  1. 56,90€ statt 69,90€
  2. 184,90€ statt 199,90€
  3. (u. a. Assassins Creed Origins 39,99€, Watch Dogs 2 18,99€, The Division 16,99€, Steep 17...

Folgen Sie uns
       


  1. Omega Timing

    Kamera mit 2.000 x 1 Pixeln sucht Sieger

  2. Autonomes Fahren

    Waymo testet in Atlanta

  3. Newsletter-Dienst

    Mailchimp verrät E-Mail-Adressen von Newsletter-Abonnenten

  4. Gegen FCC

    US-Bundesstaat Montana verlangt Netzneutralität für Behörden

  5. Digital Rights Management

    Denuvo von Sicherheitsanbieter Irdeto gekauft

  6. Android 8.1

    Oreo erkennt Qualität von WLAN-Netzwerk vor Verbindung

  7. Protektionismus

    Trump-Regierung verhängt Einfuhrzölle auf Solarzellen

  8. Stylistic Q738

    Fujitsus 789-Gramm-Tablet strahlt mit 1.300 cd/m²

  9. Far Cry 5

    Vier Hardwareanforderungen für Hope County

  10. Quartalsbericht

    Netflix wächst trotz Preiserhöhung stark



Haben wir etwas übersehen?

E-Mail an news@golem.de


Anzeige
Sgnl im Hands on: Sieht blöd aus, funktioniert aber
Sgnl im Hands on
Sieht blöd aus, funktioniert aber
  1. NGSFF alias M.3 Adata zeigt seine erste SSD mit breiterer Platine
  2. Displaytechnik Samsung soll faltbares Smartphone auf CES gezeigt haben
  3. Vuzix Blade im Hands on Neue Datenbrille mit einem scharfen und hellen Bild

Matthias Maurer: Ein Astronaut taucht unter
Matthias Maurer
Ein Astronaut taucht unter
  1. Rocketlab Billigrakete startet erfolgreich in Neuseeland
  2. Planetologie Forscher finden große Eisvorkommen auf dem Mars
  3. SpaceX Geheimer Satellit der US-Regierung ist startklar

Zahlungsverkehr: Das Bankkonto wird offener
Zahlungsverkehr
Das Bankkonto wird offener
  1. Gerichtsurteil Internet- und Fernsehkunden müssen bei Umzug weiterzahlen
  2. Breitbandmessung Provider halten versprochene Geschwindigkeit fast nie ein
  3. EU-Verordnung Verbraucherschützer gegen Netzsperren zum Verbraucherschutz

  1. Alex - Die männliche Version

    sinner89 | 13:10

  2. Sommerspiele 1932

    j4rted | 13:10

  3. Re: WLAN Roaming

    ikhaya | 13:09

  4. Re: Der Basispreis war doch bloss PR

    JackIsBlack | 13:08

  5. Re: "20 Prozent"

    Normen | 13:07


  1. 12:07

  2. 12:06

  3. 11:46

  4. 11:31

  5. 11:17

  6. 10:54

  7. 10:39

  8. 10:21


  1. Themen
  2. A
  3. B
  4. C
  5. D
  6. E
  7. F
  8. G
  9. H
  10. I
  11. J
  12. K
  13. L
  14. M
  15. N
  16. O
  17. P
  18. Q
  19. R
  20. S
  21. T
  22. U
  23. V
  24. W
  25. X
  26. Y
  27. Z
  28. #
 
    •  / 
    Zum Artikel