Abo
  • Services:

Machine Learning: Amazon verwirft sexistisches KI-Tool für Bewerber

Weil es Frauen klar benachteiligte, hat Amazon die Arbeit an seinem Machine-Learning-gestützten Tool zur Beurteilung von Bewerbern eingestellt. Die KI hatte sich die Haltung selbst beigebracht.

Artikel veröffentlicht am ,
Das Attribut Frau ist für Amazons Bewerberfilter negativ behaftet gewesen.
Das Attribut Frau ist für Amazons Bewerberfilter negativ behaftet gewesen. (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

Amazon verwirft sein von Machine Learning gestütztes Bewerbungstool, welches das Unternehmen zur Bewertung von Bewerbern nutzen wollte. Der Grund: Der Algorithmus hatte sexistische Tendenzen und bewertete Männer grundsätzlich mit einer höheren Punktzahl als Frauen. Das berichtet die Nachrichtenagentur Reuters. Das Machine-Learning-System habe sich dieses Fehlverhalten selbst beigebracht und das Attribut, männlich zu sein, sehr hoch gewichtet.

Stellenmarkt
  1. Schwan Cosmetics International GmbH & Co. KG, Heroldsberg bei Nürnberg
  2. Wanzl Metallwarenfabrik GmbH, Leipheim

Das System sollte Bewerber auf einer Skala von eins bis fünf Sternen einsortieren. Bereits 2014 hatte sich Reuters mit Entwicklern des Tools unterhalten, die anonym bleiben wollten. "Sie wollten, dass das Programm sprichwörtlich eine Maschine ist, bei der ich dir 100 Bewerbungen gebe, sie die fünf Besten ausspuckt und wir diese dann einstellen", sagte einer der involvierten Entwickler.

Das Problem: Amazon nutzte hauptsächlich zehn Jahre alte Bewerbungen, die überwiegend von Männern stammten, als Vorlage, um das Machine-Learning-Modell zu trainieren. Daraus zog das System entsprechende Schlüsse. Das Wort Frauen wurde nach Aussagen von Reuters vom Programm als schlecht bewertet und floss negativ in die Endwertung ein, wie die Entwickler schon 2015 feststellten. Daraufhin änderten die Entwickler das Verhalten so, dass zumindest das Wort Frau als neutral angesehen wurde. Letztlich war das aber wohl keine ausreichende Lösung.

Laut dem britischen Nachrichtensender BBC sind etwa 40 Prozent aller Amazon-Mitarbeiter weltweit Frauen. Ein so vorurteilbehaftetes System wäre also mutmaßlich nicht entstanden, hätten die Entwickler ihre Quelldaten breiter gestreut. Allerdings ist Amazon mit dem Problem ungerechter KI-Systeme nicht allein: Eine Forscherin am Massachussetts Institute of Technology (MIT) hat etwa herausgefunden, dass Bilderkennungssysteme von IBM und Microsoft unfair bewerten.



Anzeige
Top-Angebote
  1. (u. a. HyperX Gaming-Headset 111€, Asus Strix RTX 2060 449€, Asus 34-Zoll-Gaming-Monitor 829€)
  2. (-61%) 23,50€
  3. (Anime-Blu-rays, Anime-Boxen, DVDs, Limited Edition)
  4. (u. a. WD My Book 3 TB 87,99€, WD My Book Duo 16 TB 424,99€, Sandisk 128 GB microSDXC-Karte 31...

RobZ 14. Dez 2018

Auf dem Bild sehe ich nur eine Benachteiligung von Personen mit "langen Haaren".

janoP 17. Okt 2018

Was ist dir wichtiger: Dass die Leute in 50 Jahren ohne nachzuschauen sagen können, an...

andy01q 16. Okt 2018

Die KI bekommt im Beurteilungsschritt kein Geschlecht mitgeteilt, das Geschlecht wird...

andy01q 16. Okt 2018

Tay wurde nach dem ersten Versuch abgeschaltet, die Trainingsdaten größtenteils gelöscht...

frostbitten king 15. Okt 2018

Danke


Folgen Sie uns
       


Cocktailmixer Hector 9000 ausprobiert

Wie funktioniert ein Cocktail-Mixer aus dem 3D-Drucker? Wir haben uns den Hector 9000 des Chaostreffs Recklinghausen mal vorführen lassen und ein bisschen nachgebaut.

Cocktailmixer Hector 9000 ausprobiert Video aufrufen
Asana-Gründer im Gespräch: Die Konkurrenz wird es schwer haben, zu uns aufzuschließen
Asana-Gründer im Gespräch
"Die Konkurrenz wird es schwer haben, zu uns aufzuschließen"

Asana ist aktuell recht erfolgreich im Bereich Business-Software - zahlreiche große Unternehmen arbeiten mit der Organisationssuite. Für Mitgründer Justin Rosenstein geht es aber nicht nur ums Geld, sondern auch um die Unternehmenskultur - nicht nur bei Asana selbst.
Ein Interview von Tobias Költzsch


    Ottobock: Wie ein Exoskelett die Arbeit erleichtert
    Ottobock
    Wie ein Exoskelett die Arbeit erleichtert

    Es verleiht zwar keine Superkräfte. Bei der Arbeit in unbequemer Haltung zum Beispiel mit dem Akkuschrauber unterstützt das Exoskelett Paexo von Ottobock aber gut, wie wir herausgefunden haben. Exoskelette mit aktiver Unterstützung sind in der Entwicklung.
    Ein Erfahrungsbericht von Werner Pluta


      Mac Mini mit eGPU im Test: Externe Grafik macht den Mini zum Pro
      Mac Mini mit eGPU im Test
      Externe Grafik macht den Mini zum Pro

      Der Mac Mini mit Hexacore-CPU eignet sich zwar gut für Xcode. Wer eine GPU-Beschleunigung braucht, muss aber zum iMac (Pro) greifen - oder eine externe Grafikkarte anschließen. Per eGPU ausgerüstet wird der Mac Mini viel schneller und auch preislich kann sich das lohnen.
      Ein Test von Marc Sauter

      1. Apple Mac Mini (Late 2018) im Test Tolles teures Teil - aber für wen?
      2. Apple Mac Mini wird grau und schnell
      3. Neue Produkte Apple will Mac Mini und Macbook Air neu auflegen

        •  /