Abo
  • Services:

Machine Learning: Amazon verwirft sexistisches KI-Tool für Bewerber

Weil es Frauen klar benachteiligte, hat Amazon die Arbeit an seinem Machine-Learning-gestützten Tool zur Beurteilung von Bewerbern eingestellt. Die KI hatte sich die Haltung selbst beigebracht.

Artikel veröffentlicht am ,
Das Attribut Frau ist für Amazons Bewerberfilter negativ behaftet gewesen.
Das Attribut Frau ist für Amazons Bewerberfilter negativ behaftet gewesen. (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

Amazon verwirft sein von Machine Learning gestütztes Bewerbungstool, welches das Unternehmen zur Bewertung von Bewerbern nutzen wollte. Der Grund: Der Algorithmus hatte sexistische Tendenzen und bewertete Männer grundsätzlich mit einer höheren Punktzahl als Frauen. Das berichtet die Nachrichtenagentur Reuters. Das Machine-Learning-System habe sich dieses Fehlverhalten selbst beigebracht und das Attribut, männlich zu sein, sehr hoch gewichtet.

Stellenmarkt
  1. P.E.G. Einkaufs- und Betriebsgenossenschaft eG, München
  2. Soluvia IT-Services GmbH, Mannheim

Das System sollte Bewerber auf einer Skala von eins bis fünf Sternen einsortieren. Bereits 2014 hatte sich Reuters mit Entwicklern des Tools unterhalten, die anonym bleiben wollten. "Sie wollten, dass das Programm sprichwörtlich eine Maschine ist, bei der ich dir 100 Bewerbungen gebe, sie die fünf Besten ausspuckt und wir diese dann einstellen", sagte einer der involvierten Entwickler.

Das Problem: Amazon nutzte hauptsächlich zehn Jahre alte Bewerbungen, die überwiegend von Männern stammten, als Vorlage, um das Machine-Learning-Modell zu trainieren. Daraus zog das System entsprechende Schlüsse. Das Wort Frauen wurde nach Aussagen von Reuters vom Programm als schlecht bewertet und floss negativ in die Endwertung ein, wie die Entwickler schon 2015 feststellten. Daraufhin änderten die Entwickler das Verhalten so, dass zumindest das Wort Frau als neutral angesehen wurde. Letztlich war das aber wohl keine ausreichende Lösung.

Laut dem britischen Nachrichtensender BBC sind etwa 40 Prozent aller Amazon-Mitarbeiter weltweit Frauen. Ein so vorurteilbehaftetes System wäre also mutmaßlich nicht entstanden, hätten die Entwickler ihre Quelldaten breiter gestreut. Allerdings ist Amazon mit dem Problem ungerechter KI-Systeme nicht allein: Eine Forscherin am Massachussetts Institute of Technology (MIT) hat etwa herausgefunden, dass Bilderkennungssysteme von IBM und Microsoft unfair bewerten.



Anzeige
Spiele-Angebote
  1. 4,99€
  2. 46,99€ (Release 19.10.)
  3. (-25%) 22,49€
  4. (-80%) 3,99€

Eheran 08:46 / Themenstart

Alles in allem ist der Artikel bzw. die Aussagen untauglich für eine Bewertung, da...

Garrona 14. Okt 2018 / Themenstart

http://www.abc.net.au/news/2017-06-30/bilnd-recruitment-trial-to-improve-gender-equality...

Someone_else 14. Okt 2018 / Themenstart

Nein neuronale Netze sind von jeglichen Gehirnen meilenweit entfernt. Heutige neuronale...

azeu 14. Okt 2018 / Themenstart

Alles, was ins eigene Weltbild passt ist automatisch rational. Und alles, womit man...

frostbitten king 14. Okt 2018 / Themenstart

Aber nicht wegen dieser Personenbeschreibung. Bei der Beschreibung denke ich an blue...

Kommentieren


Folgen Sie uns
       


Tolino Shine 3 - Hands on

Der Shine 3 ist der neue E-Book-Reader der Tolino-Allianz. Das neue Modell bietet einen kapazitiven Touchscreen und erhält die Möglichkeit, die Farbtemperatur des Displaylichts zu verändern. Der Shine 3 ist für 120 Euro verfügbar.

Tolino Shine 3 - Hands on Video aufrufen
Assassin's Creed Odyssey im Test: Spektakel mit Spartiaten
Assassin's Creed Odyssey im Test
Spektakel mit Spartiaten

Inselwelt statt Sandwüste, Athen statt Alexandria und dazu der Krieg zwischen Hellas und Sparta: Odyssey schickt uns erneut in einen antiken Konflikt - und in das bislang mit Abstand schönste und abwechslungsreichste Assassin's Creed.
Von Peter Steinlechner

  1. Assassin's Creed Odyssey setzt CPU mit AVX-Unterstützung voraus
  2. Project Stream Google testet mit kostenlosem Assassin's Creed Odyssey
  3. Assassin's Creed angespielt Odyssey und der spartanische Supertritt

Kaufberatung: Der richtige smarte Lautsprecher
Kaufberatung
Der richtige smarte Lautsprecher

Der Markt für smarte Lautsprecher wird immer größer. Bei der Entscheidung für ein Gerät sind Kaufpreis und Klang wichtig, ebenso die Wahl für einen digitalen Assistenten: Alexa, Google Assistant oder Siri? Wir geben eine Übersicht.
Von Ingo Pakalski

  1. Amazon Alexa Echo Sub verhilft Echo-Lautsprechern zu mehr Bass
  2. Beosound 2 Bang & Olufsen bringt smarten Lautsprecher für 2.000 Euro
  3. Google und Amazon Markt für smarte Lautsprecher wächst weiter stark

Mobile-Games-Auslese: Bezahlbare Drachen und dicke Bären
Mobile-Games-Auslese
Bezahlbare Drachen und dicke Bären

Rundenbasierte Strategie auf dem Smartphone mit Chaos Reborn Adventure Fantasy von Nintendo in Dragalia Lost - und dicke Alpha-Bären: Die Mobile Games des Monats bieten spannende Unterhaltung für jeden Geschmack.
Von Rainer Sigl

  1. Mobile-Games-Auslese Städtebau und Lebenssimulation für unterwegs
  2. Mobile-Games-Auslese Barbaren und andere knuddelige Fantasyhelden
  3. Seismic Games Niantic kauft Entwickler von Marvel Strike Force

    •  /