Abo
  • Services:
Anzeige
Bei der Suche nach dem Begriff "Hands" findet Google vor allem eines: weiße Hände.
Bei der Suche nach dem Begriff "Hands" findet Google vor allem eines: weiße Hände. (Bild: Golem.de)

Diskriminierung: Wenn Algorithmen Vorurteile haben

Bei der Suche nach dem Begriff "Hands" findet Google vor allem eines: weiße Hände.
Bei der Suche nach dem Begriff "Hands" findet Google vor allem eines: weiße Hände. (Bild: Golem.de)

Auch Technologie kann rassistisch oder sexistisch sein. In einer zunehmend digitalisierten Welt wird das zum Problem.
Von Sara Weber

Wer uns auf Facebook als Freund vorgeschlagen wird und wann unsere selbstfahrenden Autos künftig bremsen werden - das bestimmen Algorithmen. Algorithmen sind eine Folge von Anweisungen, die ein Problem lösen können, wenn sie korrekt ausgeführt werden. Sie sollen systematisch sein, logisch, und auch beim tausendsten Mal noch zum selben Ergebnis führen.

Anzeige

Doch jeder Algorithmus wird von Menschen programmiert, die Teil bestimmter Gesellschaftsschichten sind und ihre - meist unbewussten - Neigungen und Vorurteile in ihre Arbeit einfließen lassen. Und je stärker die Welt von Technik getrieben wird, desto stärker zeigt sich, dass das ein Problem ist.

"Wir gehen davon aus, dass Technik neutral ist", sagt Corinna Bath. Sie ist Informatikerin und forscht zu Technikentwicklung und Gender an der TU Braunschweig. "Aber es gibt keine neutralen Algorithmen." Bath zufolge ist Technik immer auch von sozialen Umständen beeinflusst. Doch die wenigsten machen sich das bewusst.

Dabei können Algorithmen durchaus gefährlich sein, wenn sie so programmiert sind, dass sie rassistische oder sexistische Entscheidungen treffen. Dies muss nicht absichtlich geschehen: Meist sind sich die Programmierer nicht bewusst, dass ihre Vorurteile sich auf den Code auswirken.

Bei der Google-Suche nach dem Begriff CEO findet die Suchmaschine etwa überproportional viele Bilder von weißen Männern. In der Realität sind etwa 27 Prozent aller CEOs in den USA weiblich. Laut einer Untersuchung der University of Washington tauchen bei der Bildersuche allerdings nur in elf Prozent aller Fälle Bilder von Frauen auf - einer der ersten Treffer ist übrigens die Barbie-CEO-Puppe.

Frauen sollten nicht studieren - und Frauen sind keine Chefs

"Die technische Entwicklung geht immer weiter und wenn wir nicht bald anfangen, Algorithmen auf ihre ethische Tauglichkeit zu untersuchen, könnte das ein großes Drama werden", sagt Bath. Sie beobachtet zum Beispiel, dass in der Technikentwicklung oft antiquierte Geschlechterrollen reproduziert werden - dass Algorithmen also sexistischer sind als unsere heutige Gesellschaft. Und auch die Menschen, die Algorithmen nutzen, hinterfragen diese in der Regel nicht, sondern nehmen die gelieferten Ergebnisse als wahr und richtig hin.

Gibt man bei der Google Suche 'Frauen sollten' ein, wird die Anfrage automatisch vervollständigt zu Formulierungen wie "Frauen sollten nicht studieren", "Frauen sollten keine Hosen tragen", "Frauen sollten keine Rechte haben". Google zufolge werden Vorhersagen in der Autovervollständigung automatisch von einem Algorithmus generiert, ohne jegliches menschliches Zutun.

  • Diskriminierung per Google-Suche? (Screenshot: Golem.de)
  • Diskriminierung per Google-Suche? (Screenshot: Golem.de)
Diskriminierung per Google-Suche? (Screenshot: Golem.de)

Der Algorithmus basiere auf etlichen objektiven Faktoren, unter anderem der Häufigkeit, mit der ein Wort gesucht werde. Deshalb könnten die angezeigten Suchbegriffe 'seltsam oder überraschend' wirken. Eine andere Bezeichnung dafür wäre diskriminierend. Die Organisation UN Women kritisierte diese angebliche "Autocomplete-Wahrheit" schon 2013 in einer großen Kampagne: Frauen sollten heutzutage überall als gleichberechtigt angesehen werden - auch auf Google.

Die vorherrschende Hautfarbe im Internet ist weiß

Und es geht noch drastischer: Eine Untersuchung der Carnegie Mellon University zeigt, dass Frauen bei Google weniger Anzeigen für gut bezahlte Jobs mit Führungspositionen angezeigt bekommen als Männer. Google-Suchen nach Namen, die afroamerikanisch klingen, werden häufiger mit Anzeigen verknüpft, die einen Eintrag im Vorstrafenregister implizieren, so eine Studie von Harvard-Professorin Latanya Sweeney aus dem Jahr 2013.

Bei der Suche nach dem Wort Hand zeigt Google größtenteils Bilder von Händen mit heller Hautfarbe. Solche Symbolbilder, auch Stockfotos genannt, werden genutzt, um Texte zu illustrieren, in denen es etwa um medizinische Themen, Kosmetik oder Schmuck geht, aber auch, wenn ein Smartphone oder eine Spielfigur gehalten werden müssen oder die Verbundenheit mehrerer Menschen bildlich dargestellt werden soll.

Braune oder schwarze Hände werden für solche Zwecke kaum verwendet. Die Initiative World White Web versucht deshalb, mit genau diesem Beispiel auf die "Weißheit" des Netzes aufmerksam zu machen. Sie bietet Stockfotos von Händen in unterschiedlichen Hautfarben an, die kostenfrei genutzt werden können und zeigen sollen: Die Welt ist nicht nur weiß.

Nicht neutral: Wenn Schwarze mit Affen verwechselt werden 

eye home zur Startseite
maniacos 21. Jan 2016

Warum gehst du davon aus, dass sexistische Männer diese Suchanfragen erzeugen? Es können...

maniacos 21. Jan 2016

Indem man über Dinge labert, von denen man keinen blassen Schimmer hat aber trotzdem so...

maniacos 21. Jan 2016

Die Frau behauptet, dass Entwickler ihre Algorithmen sexistisch programmieren. Das ist...

Dwalinn 20. Jan 2016

Noch nichtmal das! Kann auch sein das Feministen ständig nach "Frauen sollten keine...

kullerkeks 19. Jan 2016

...oder kein sinnvolles Thema mit dem Sie sich beschäftigen können. Ein Algorithmus kann...



Anzeige

Stellenmarkt
  1. T-Systems International GmbH, Leinfelden-Echterdingen
  2. ROMA KG, Burgau
  3. TAMPOPRINT® AG, Korntal-Münchingen
  4. Robert Bosch GmbH, Abstatt


Anzeige
Top-Angebote
  1. 279,00€ (Vergleichspreis 319€)
  2. (u. a. MDR-10RC für 44,00€ und MDR-1A für 129,00€)
  3. 29,99€

Folgen Sie uns
       


  1. Nokia 3, 5 und 6

    HMD Global bringt drei Nokia-Smartphones mit Android

  2. Moto G5 und Moto G5 Plus im Hands on

    Lenovos kompakte Mittelklasse ist zurück

  3. Handy-Klassiker

    HMD Global bringt das Nokia 3310 zurück

  4. Galaxy Tab S3 im Hands on

    Samsung präsentiert Oberklasse-Tablet mit Eingabestift

  5. Galaxy Book im Hands on

    Samsung bringt neuen 2-in-1-Computer

  6. Mobilfunk

    "5G muss weit mehr als LTE bieten"

  7. UHS-III

    Neuer (Micro-)SD-Karten-Standard schafft über 600 MByte/s

  8. Watch 2 im Hands on

    Huaweis neue Smartwatch soll bis zu 21 Tage lang durchhalten

  9. LG G6 im Hands on

    Schlankes Smartphone hat zwei Kameralinsen

  10. P10 und P10 Plus im Hands on

    Huaweis neues P10 kostet 600 Euro



Haben wir etwas übersehen?

E-Mail an news@golem.de


Anzeige
Bundesnetzagentur: Puppenverbot gefährdet das Smart Home und Bastler
Bundesnetzagentur
Puppenverbot gefährdet das Smart Home und Bastler
  1. My Friend Cayla Eltern müssen Puppen ihrer Kinder zerstören
  2. Matoi Imagno Wenn die Holzklötzchen zu dir sprechen
  3. Smart Gurlz Programmieren lernen mit Puppen

Galaxy-A-Serie vs. P8 Lite (2017): Samsungs und Huaweis Kampf um die Mittelklasse
Galaxy-A-Serie vs. P8 Lite (2017)
Samsungs und Huaweis Kampf um die Mittelklasse
  1. Wettbewerbsverstoß Google soll Tizen behindert haben
  2. Strafverfahren De-facto-Chef von Samsung wegen Korruption verhaftet
  3. Samsung Preisliches Niveau der QLED-Fernseher in der Nähe der OLEDs

Fire TV Stick 2 mit Alexa im Hands on: Amazons attraktiver Einstieg in die Streaming-Welt
Fire TV Stick 2 mit Alexa im Hands on
Amazons attraktiver Einstieg in die Streaming-Welt
  1. Fernsehstreaming Fire-TV-App von Waipu TV bietet alle Kanäle kostenlos
  2. Fire TV Amazon bringt Downloader-App wieder zurück
  3. Amazon Downloader-App aus dem Fire-TV-Store entfernt

  1. Ein kleiner Schritt in die richtige Richtung

    jack56 | 01:08

  2. Re: Wozu?

    Niaxa | 01:06

  3. Ist fast gekauft...

    jack56 | 01:04

  4. Re: suche lte-tablet, das auch mal lädt

    Gladiac782 | 00:46

  5. Re: stand by 1 monat?

    Bujin | 00:46


  1. 21:13

  2. 20:32

  3. 20:15

  4. 19:00

  5. 19:00

  6. 18:45

  7. 18:10

  8. 17:48


  1. Themen
  2. A
  3. B
  4. C
  5. D
  6. E
  7. F
  8. G
  9. H
  10. I
  11. J
  12. K
  13. L
  14. M
  15. N
  16. O
  17. P
  18. Q
  19. R
  20. S
  21. T
  22. U
  23. V
  24. W
  25. X
  26. Y
  27. Z
  28. #
 
    •  / 
    Zum Artikel