Ein Knackpunkt sind die Trainingsdaten für maschinelles Lernen

Leisten kann sie sich das allerdings immer weniger. Das wird allein im Wettbewerb um Tech-Talente klar. Denn auf diese Art würden viele gar nicht erst erreicht, warnt Stephanie Fischer. "Die Suche nach neuen Geschäftsfeldern rund um KI boomt, Experten werden händeringend gesucht. Gleichzeitig aber sind die Einstiegskriterien zu starr", sagt die KI-Expertin, die sich auch in einer Arbeitsgruppe der Plattform Lernende Systeme engagiert.

Stellenmarkt
  1. Datenschutzkoordinator (m/w/d)
    S-Kreditpartner GmbH, Berlin
  2. Systemadministrator (m/w/d)
    Unfallkasse Nord, Lübeck, Itzehoe, Kiel
Detailsuche

Häufig führe der Weg ins KI-Team nur über Programmierkenntnisse und vor allem konkrete Projekterfahrungen. Die Potenziale von fachfremden Quereinsteigern zum Beispiel aus Vertrieb und Marketing blieben ungenutzt - und damit die Chance, auch Vielfalt in den Methoden und im Hintergrundwissen zu stärken.

Zudem grenzten sich die KI-Einheiten in Konzernen häufig ab, sagt Fischer: "Sie sind als agile Spielwiesen konzipiert, ziehen also häufig die neugierigen und risikofreudigen Mitarbeiter an." So fehlten insbesondere sicherheitsaffine Teammitglieder, die sich für geregelte Prozesse einsetzten. Diese Mitarbeiter bilden laut Fischer eine wichtige Schnittstelle zu den anderen Abteilungen und können dabei helfen, systematisch Feedback einzuholen. Das hilft, Diskriminierungsrisiken früh zu erkennen.

Die richtigen Fragen an die Software zu stellen, gelingt nur einer bunt durchmischten Gruppe. Die Mitglieder einer solchen Gruppe merken eher, ob in das Ergebnis Faktoren einfließen, die eigentlich keine Rolle spielen sollten - zum Beispiel Geschlecht, Alter oder Herkunft. Denn dort gebe es ein Bewusstsein für die Unterschiede in der Gesellschaft, sagt Steffen Staab, Professor für Analytic Computing an der Universität Stuttgart. Teammitglieder, die selbst aus sogenannten Randgruppen kommen oder deren spezifische Probleme kennen, bräuchten eine Stimme.

Golem Akademie
  1. Jira für Anwender: virtueller Ein-Tages-Workshop
    10. November 2021, virtuell
  2. Jira für Systemadministratoren: virtueller Zwei-Tage-Workshop
    9.–10. Dezember 2021, virtuell
Weitere IT-Trainings

Denn: "Es ist zu befürchten, dass wir der KI tradierte Diskriminierungsmuster beibringen und diese somit festklopfen", warnt der Computerwissenschaftler. Er untersucht in dem kürzlich gestarteten europäischen Projekt No Bias mit Forschern aus acht Organisationen, wie Verzerrungen in KI zustande kommen und wie sich künftig faire Entscheidungen auf Basis von Algorithmen erzielen lassen.

Es geht um das sogenannte maschinelle Lernen: Dabei wird eine Software mit einer Menge an Daten versorgt, die ihr bestimmte statistische Zusammenhänge beibringen. Nach diesem gelernten Muster zieht die KI neue Schlüsse. Was dabei schiefgehen kann, zeigte beispielsweise Microsofts Chatbot Tay, der sich 2016 mit rassistischen und frauenfeindlichen Twitter-Beiträgen verselbstständigte.

Einer der Knackpunkte ist die Auswahl der Trainingsdaten. Diverse Teams treffen schon hier klügere Entscheidungen, weil sie Lücken oder ungewollte Tendenzen eher erkennen als eine Gruppe mit recht ähnlichen Hintergründen.

"Wenn ich Daten aus einer zu kleinen Teilgruppe sammle und deshalb nicht repräsentativ bin, steigt das Risiko, zu unfairen oder falschen Ergebnissen zu kommen", erklärt Informatikprofessor Staab. Er nennt ein Beispiel aus der Pharmabranche: Wer herausfinden wolle, ob ein Medikament verträglich ist, erhalte leicht ein unvollständiges Bild, etwa wenn zu den Probanden nur Männer aus Mitteleuropa gehörten. "Diverse Teams verhindern, dass ich spezielle Folgen für einige wenige Menschen einfach übersehe", sagt Staab - weil die Teammitglieder womöglich selbst betroffen wären.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Diskriminierung: KI ist nur so fair wie die MenschenManche Dax-Firma hat im LGBT-Index nur wenige Punkte 
  1.  
  2. 1
  3. 2
  4. 3
  5.  


GodsBoss 18. Jun 2020

Ich habe nichts dagegen, dass Menschen und/oder Unternehmen Sanktionen erfahren, wenn...

janoP 12. Jun 2020

Ob die Ergebnisse einer selbstlernenden, auf künstlichen neuronalen Netzen basierenden KI...

Hotohori 11. Jun 2020

Ist natürlich auch ein Problem, die Erwartungshaltung der Menschen was die KI leisten...

Hotohori 11. Jun 2020

Stimmt, das kommt auch noch dazu... XD

Gole-mAndI 11. Jun 2020

Du hast das falsch verstanden. Der Prozess sieht kein Nachdenken vor, daher findet es...



Aktuell auf der Startseite von Golem.de
Wemax Go Pro
Mini-Projektor für Reisen strahlt 120-Zoll-Bild an die Wand

Der Wemax Go Pro setzt auf Lasertechnik von Xiaomi. Der Beamer ist klein und kompakt, soll aber ein großes Bild an die Wand strahlen können.

Wemax Go Pro: Mini-Projektor für Reisen strahlt 120-Zoll-Bild an die Wand
Artikel
  1. Snapdragon 8cx Gen 3: Geleaktes Qualcomm-SoC erreicht das Niveau von AMD und Intel
    Snapdragon 8cx Gen 3
    Geleaktes Qualcomm-SoC erreicht das Niveau von AMD und Intel

    In Geekbench wurde der Qualcomm Snapdragon 8cx Gen 3 gesichtet. Er kann sich mit Intel- und AMD-CPUs messen, mit Apples M1 aber wohl nicht.

  2. Air4: Renault 4 als Flugauto neu interpretiert
    Air4
    Renault 4 als Flugauto neu interpretiert

    Der Air4 ist Renaults Idee, wie ein fliegender Renault 4 aussehen könnte. Mit der Drohne wird das 60jährige Jubiläum des Kultautos gefeiert.

  3. MS Satoshi: Die abstruse Geschichte des Bitcoin-Kreuzfahrtschiffs
    MS Satoshi
    Die abstruse Geschichte des Bitcoin-Kreuzfahrtschiffs

    Kryptogeld-Enthusiasten kauften ein Kreuzfahrtschiff und wollten es zum schwimmenden Freiheitsparadies machen. Allerdings scheiterten sie an jeder einzelnen Stelle.
    Von Elke Wittich

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Black Friday Wochenende • LG UltraGear 34GP950G-B 999€ • SanDisk Ultra 3D 500 GB M.2 44€ • Boxsets (u. a. Game of Thrones Blu-ray 79,97€) • Samsung Galaxy S21 128GB 777€ • Premium-Laptops (u. a. Lenovo Ideapad 5 Pro 16" 829€) • MS Surface Pro7+ 888€ • Astro Gaming Headsets [Werbung]
    •  /