Abo
  • IT-Karriere:

Machine Learning: Amazon verwirft sexistisches KI-Tool für Bewerber

Weil es Frauen klar benachteiligte, hat Amazon die Arbeit an seinem Machine-Learning-gestützten Tool zur Beurteilung von Bewerbern eingestellt. Die KI hatte sich die Haltung selbst beigebracht.

Artikel veröffentlicht am ,
Das Attribut Frau ist für Amazons Bewerberfilter negativ behaftet gewesen.
Das Attribut Frau ist für Amazons Bewerberfilter negativ behaftet gewesen. (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

Amazon verwirft sein von Machine Learning gestütztes Bewerbungstool, welches das Unternehmen zur Bewertung von Bewerbern nutzen wollte. Der Grund: Der Algorithmus hatte sexistische Tendenzen und bewertete Männer grundsätzlich mit einer höheren Punktzahl als Frauen. Das berichtet die Nachrichtenagentur Reuters. Das Machine-Learning-System habe sich dieses Fehlverhalten selbst beigebracht und das Attribut, männlich zu sein, sehr hoch gewichtet.

Stellenmarkt
  1. DLR Deutsches Zentrum für Luft- und Raumfahrt e.V., Braunschweig
  2. SSP Safety System Products GmbH & Co. KG, Spaichingen

Das System sollte Bewerber auf einer Skala von eins bis fünf Sternen einsortieren. Bereits 2014 hatte sich Reuters mit Entwicklern des Tools unterhalten, die anonym bleiben wollten. "Sie wollten, dass das Programm sprichwörtlich eine Maschine ist, bei der ich dir 100 Bewerbungen gebe, sie die fünf Besten ausspuckt und wir diese dann einstellen", sagte einer der involvierten Entwickler.

Das Problem: Amazon nutzte hauptsächlich zehn Jahre alte Bewerbungen, die überwiegend von Männern stammten, als Vorlage, um das Machine-Learning-Modell zu trainieren. Daraus zog das System entsprechende Schlüsse. Das Wort Frauen wurde nach Aussagen von Reuters vom Programm als schlecht bewertet und floss negativ in die Endwertung ein, wie die Entwickler schon 2015 feststellten. Daraufhin änderten die Entwickler das Verhalten so, dass zumindest das Wort Frau als neutral angesehen wurde. Letztlich war das aber wohl keine ausreichende Lösung.

Laut dem britischen Nachrichtensender BBC sind etwa 40 Prozent aller Amazon-Mitarbeiter weltweit Frauen. Ein so vorurteilbehaftetes System wäre also mutmaßlich nicht entstanden, hätten die Entwickler ihre Quelldaten breiter gestreut. Allerdings ist Amazon mit dem Problem ungerechter KI-Systeme nicht allein: Eine Forscherin am Massachussetts Institute of Technology (MIT) hat etwa herausgefunden, dass Bilderkennungssysteme von IBM und Microsoft unfair bewerten.



Anzeige
Top-Angebote
  1. 129,00€
  2. (u. a. Mario Kart 8 Deluxe, New Super Mario Bros. U Deluxe)
  3. 89,99€
  4. (aktuell u. a. Silverstone RGB LED Hub 20,99€, Lenovo IdeaPad 449,00€)

RobZ 14. Dez 2018

Auf dem Bild sehe ich nur eine Benachteiligung von Personen mit "langen Haaren".

janoP 17. Okt 2018

Was ist dir wichtiger: Dass die Leute in 50 Jahren ohne nachzuschauen sagen können, an...

andy01q 16. Okt 2018

Die KI bekommt im Beurteilungsschritt kein Geschlecht mitgeteilt, das Geschlecht wird...

andy01q 16. Okt 2018

Tay wurde nach dem ersten Versuch abgeschaltet, die Trainingsdaten größtenteils gelöscht...

frostbitten king 15. Okt 2018

Danke


Folgen Sie uns
       


Nubia Alpha - Hands on (MWC 2019)

Nubia hat eine Smartwatch mit einem flexiblen Display auf dem Mobile World Congress 2019 in Barcelona gezeigt.

Nubia Alpha - Hands on (MWC 2019) Video aufrufen
P30 Pro im Kameratest: Huawei baut die vielseitigste Smartphone-Kamera
P30 Pro im Kameratest
Huawei baut die vielseitigste Smartphone-Kamera

Huawei will mit dem P30 Pro seinen Vorsprung vor den Smartphone-Kameras der Konkurrenez ausbauen - und schafft es mit einigen grundlegenden Veränderungen.
Ein Test von Tobias Költzsch

  1. CIA-Vorwürfe Huawei soll von chinesischer Regierung finanziert werden
  2. Huawei-Gründer "Warte auf Medikament von Google gegen Sterblichkeit"
  3. 5G-Ausbau Sicherheitskriterien führen nicht zu Ausschluss von Huawei

Jobporträt: Wenn die Software für den Anwalt kurzen Prozess macht
Jobporträt
Wenn die Software für den Anwalt kurzen Prozess macht

IT-Anwalt Christian Solmecke arbeitet an einer eigenen Jura-Software, die sogar automatisch auf Urheberrechtsabmahnungen antworten kann. Dass er sich damit seiner eigenen Arbeit beraubt, glaubt er nicht. Denn die KI des Programms braucht noch Betreuung.
Von Maja Hoock

  1. Struktrurwandel IT soll jetzt die Kohle nach Cottbus bringen
  2. IT-Jobporträt Spieleprogrammierer "Ich habe mehr Code gelöscht als geschrieben"
  3. Recruiting Wenn die KI passende Mitarbeiter findet

Swobbee: Der Wechselakku kommt wieder
Swobbee
Der Wechselakku kommt wieder

Mieten statt kaufen, wechseln statt laden: Das Berliner Startup Swobbee baut eine Infrastruktur mit Lade- und Tauschstationen für Akkus auf. Ein ähnliches Geschäftsmodell ist schon einmal gescheitert. Dieses kann jedoch aufgehen.
Eine Analyse von Werner Pluta

  1. Elektromobilität Seoul will Zweirad-Kraftfahrzeuge und Minibusse austauschen
  2. Rechtsanspruch auf Wallboxen Wohnungswirtschaft warnt vor "Schnellschuss" bei WEG-Reform
  3. Innolith Energy Battery Schweizer Unternehmen entwickelt sehr leistungsfähigen Akku

    •  /