• IT-Karriere:
  • Services:

Ein Knackpunkt sind die Trainingsdaten für maschinelles Lernen

Leisten kann sie sich das allerdings immer weniger. Das wird allein im Wettbewerb um Tech-Talente klar. Denn auf diese Art würden viele gar nicht erst erreicht, warnt Stephanie Fischer. "Die Suche nach neuen Geschäftsfeldern rund um KI boomt, Experten werden händeringend gesucht. Gleichzeitig aber sind die Einstiegskriterien zu starr", sagt die KI-Expertin, die sich auch in einer Arbeitsgruppe der Plattform Lernende Systeme engagiert.

Stellenmarkt
  1. Siedlerkarte GmbH, München
  2. Sky Deutschland GmbH, Unterföhring bei München

Häufig führe der Weg ins KI-Team nur über Programmierkenntnisse und vor allem konkrete Projekterfahrungen. Die Potenziale von fachfremden Quereinsteigern zum Beispiel aus Vertrieb und Marketing blieben ungenutzt - und damit die Chance, auch Vielfalt in den Methoden und im Hintergrundwissen zu stärken.

Zudem grenzten sich die KI-Einheiten in Konzernen häufig ab, sagt Fischer: "Sie sind als agile Spielwiesen konzipiert, ziehen also häufig die neugierigen und risikofreudigen Mitarbeiter an." So fehlten insbesondere sicherheitsaffine Teammitglieder, die sich für geregelte Prozesse einsetzten. Diese Mitarbeiter bilden laut Fischer eine wichtige Schnittstelle zu den anderen Abteilungen und können dabei helfen, systematisch Feedback einzuholen. Das hilft, Diskriminierungsrisiken früh zu erkennen.

Die richtigen Fragen an die Software zu stellen, gelingt nur einer bunt durchmischten Gruppe. Die Mitglieder einer solchen Gruppe merken eher, ob in das Ergebnis Faktoren einfließen, die eigentlich keine Rolle spielen sollten - zum Beispiel Geschlecht, Alter oder Herkunft. Denn dort gebe es ein Bewusstsein für die Unterschiede in der Gesellschaft, sagt Steffen Staab, Professor für Analytic Computing an der Universität Stuttgart. Teammitglieder, die selbst aus sogenannten Randgruppen kommen oder deren spezifische Probleme kennen, bräuchten eine Stimme.

Denn: "Es ist zu befürchten, dass wir der KI tradierte Diskriminierungsmuster beibringen und diese somit festklopfen", warnt der Computerwissenschaftler. Er untersucht in dem kürzlich gestarteten europäischen Projekt No Bias mit Forschern aus acht Organisationen, wie Verzerrungen in KI zustande kommen und wie sich künftig faire Entscheidungen auf Basis von Algorithmen erzielen lassen.

Es geht um das sogenannte maschinelle Lernen: Dabei wird eine Software mit einer Menge an Daten versorgt, die ihr bestimmte statistische Zusammenhänge beibringen. Nach diesem gelernten Muster zieht die KI neue Schlüsse. Was dabei schiefgehen kann, zeigte beispielsweise Microsofts Chatbot Tay, der sich 2016 mit rassistischen und frauenfeindlichen Twitter-Beiträgen verselbstständigte.

Einer der Knackpunkte ist die Auswahl der Trainingsdaten. Diverse Teams treffen schon hier klügere Entscheidungen, weil sie Lücken oder ungewollte Tendenzen eher erkennen als eine Gruppe mit recht ähnlichen Hintergründen.

"Wenn ich Daten aus einer zu kleinen Teilgruppe sammle und deshalb nicht repräsentativ bin, steigt das Risiko, zu unfairen oder falschen Ergebnissen zu kommen", erklärt Informatikprofessor Staab. Er nennt ein Beispiel aus der Pharmabranche: Wer herausfinden wolle, ob ein Medikament verträglich ist, erhalte leicht ein unvollständiges Bild, etwa wenn zu den Probanden nur Männer aus Mitteleuropa gehörten. "Diverse Teams verhindern, dass ich spezielle Folgen für einige wenige Menschen einfach übersehe", sagt Staab - weil die Teammitglieder womöglich selbst betroffen wären.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Diskriminierung: KI ist nur so fair wie die MenschenManche Dax-Firma hat im LGBT-Index nur wenige Punkte 
  1.  
  2. 1
  3. 2
  4. 3
  5.  


Anzeige
Top-Angebote
  1. 290,99€ (Release 10.11.)
  2. 499,99€ (Release 10.11.)
  3. 59,99€ (Release 10.11.)
  4. (u. a. Wireless Controller für 59,99€, Play and Charge Kit für 22,38€, Call of Duty: Black...

GodsBoss 18. Jun 2020

Ich habe nichts dagegen, dass Menschen und/oder Unternehmen Sanktionen erfahren, wenn...

janoP 12. Jun 2020

Ob die Ergebnisse einer selbstlernenden, auf künstlichen neuronalen Netzen basierenden KI...

Hotohori 11. Jun 2020

Ist natürlich auch ein Problem, die Erwartungshaltung der Menschen was die KI leisten...

Hotohori 11. Jun 2020

Stimmt, das kommt auch noch dazu... XD

Gole-mAndI 11. Jun 2020

Du hast das falsch verstanden. Der Prozess sieht kein Nachdenken vor, daher findet es...


Folgen Sie uns
       


Verkehrswende: Zaubertechnologie statt Citybahn
Verkehrswende
Zaubertechnologie statt Citybahn

In Wiesbaden wird um den Bau einer Straßenbahn gestritten, eine Bürgerinitiative kämpft mit sehr kuriosen Argumenten dagegen.
Eine Recherche von Hanno Böck

  1. Fernbus Roadjet mit zwei WLANs und Maskenerkennung gegen Flixbus
  2. Mobilität Wie sinnvoll sind synthetische Kraftstoffe?

iPhone, iPad und Co.: Apple bringt iOS 14, iPadOS 14, TVOS 14 und WatchOS 7
iPhone, iPad und Co.
Apple bringt iOS 14, iPadOS 14, TVOS 14 und WatchOS 7

Auch ohne neue iPhones lässt es sich Apple nicht nehmen, seine neue iOS-Version 14 zu veröffentlichen. Auch andere Systeme erhalten Upgrades.

  1. Apple Pay EU will Apple zur Freigabe von NFC-Chip bringen
  2. Apple One Abos der verschiedenen Apple-Dienste im Paket
  3. Corona Apple hat eigenen Mund-Nasen-Schutz entwickelt

Burnout im IT-Job: Mit den Haien schwimmen
Burnout im IT-Job
Mit den Haien schwimmen

Unter Druck bricht ein Webentwickler zusammen - zerrieben von zu eng getakteten Projekten. Obwohl die IT-Branche psychische Belastungen als Problem erkannt hat, lässt sie Beschäftigte oft allein.
Eine Reportage von Miriam Binner


      •  /