• IT-Karriere:
  • Services:

Ein Knackpunkt sind die Trainingsdaten für maschinelles Lernen

Leisten kann sie sich das allerdings immer weniger. Das wird allein im Wettbewerb um Tech-Talente klar. Denn auf diese Art würden viele gar nicht erst erreicht, warnt Stephanie Fischer. "Die Suche nach neuen Geschäftsfeldern rund um KI boomt, Experten werden händeringend gesucht. Gleichzeitig aber sind die Einstiegskriterien zu starr", sagt die KI-Expertin, die sich auch in einer Arbeitsgruppe der Plattform Lernende Systeme engagiert.

Stellenmarkt
  1. Zühlke Engineering GmbH, Frankfurt am Main, Hamburg, Hannover, München, Stuttgart
  2. STRABAG BRVZ GMBH, Spittal/Drau (Österreich), Köln oder Stuttgart

Häufig führe der Weg ins KI-Team nur über Programmierkenntnisse und vor allem konkrete Projekterfahrungen. Die Potenziale von fachfremden Quereinsteigern zum Beispiel aus Vertrieb und Marketing blieben ungenutzt - und damit die Chance, auch Vielfalt in den Methoden und im Hintergrundwissen zu stärken.

Zudem grenzten sich die KI-Einheiten in Konzernen häufig ab, sagt Fischer: "Sie sind als agile Spielwiesen konzipiert, ziehen also häufig die neugierigen und risikofreudigen Mitarbeiter an." So fehlten insbesondere sicherheitsaffine Teammitglieder, die sich für geregelte Prozesse einsetzten. Diese Mitarbeiter bilden laut Fischer eine wichtige Schnittstelle zu den anderen Abteilungen und können dabei helfen, systematisch Feedback einzuholen. Das hilft, Diskriminierungsrisiken früh zu erkennen.

Die richtigen Fragen an die Software zu stellen, gelingt nur einer bunt durchmischten Gruppe. Die Mitglieder einer solchen Gruppe merken eher, ob in das Ergebnis Faktoren einfließen, die eigentlich keine Rolle spielen sollten - zum Beispiel Geschlecht, Alter oder Herkunft. Denn dort gebe es ein Bewusstsein für die Unterschiede in der Gesellschaft, sagt Steffen Staab, Professor für Analytic Computing an der Universität Stuttgart. Teammitglieder, die selbst aus sogenannten Randgruppen kommen oder deren spezifische Probleme kennen, bräuchten eine Stimme.

Golem Akademie
  1. Python kompakt - Einführung für Softwareentwickler
    19./20. April 2021, online
  2. Advanced Python - Fortgeschrittene Programmierthemen
    3./4. Mai 2021, online
Weitere IT-Trainings

Denn: "Es ist zu befürchten, dass wir der KI tradierte Diskriminierungsmuster beibringen und diese somit festklopfen", warnt der Computerwissenschaftler. Er untersucht in dem kürzlich gestarteten europäischen Projekt No Bias mit Forschern aus acht Organisationen, wie Verzerrungen in KI zustande kommen und wie sich künftig faire Entscheidungen auf Basis von Algorithmen erzielen lassen.

Es geht um das sogenannte maschinelle Lernen: Dabei wird eine Software mit einer Menge an Daten versorgt, die ihr bestimmte statistische Zusammenhänge beibringen. Nach diesem gelernten Muster zieht die KI neue Schlüsse. Was dabei schiefgehen kann, zeigte beispielsweise Microsofts Chatbot Tay, der sich 2016 mit rassistischen und frauenfeindlichen Twitter-Beiträgen verselbstständigte.

Einer der Knackpunkte ist die Auswahl der Trainingsdaten. Diverse Teams treffen schon hier klügere Entscheidungen, weil sie Lücken oder ungewollte Tendenzen eher erkennen als eine Gruppe mit recht ähnlichen Hintergründen.

"Wenn ich Daten aus einer zu kleinen Teilgruppe sammle und deshalb nicht repräsentativ bin, steigt das Risiko, zu unfairen oder falschen Ergebnissen zu kommen", erklärt Informatikprofessor Staab. Er nennt ein Beispiel aus der Pharmabranche: Wer herausfinden wolle, ob ein Medikament verträglich ist, erhalte leicht ein unvollständiges Bild, etwa wenn zu den Probanden nur Männer aus Mitteleuropa gehörten. "Diverse Teams verhindern, dass ich spezielle Folgen für einige wenige Menschen einfach übersehe", sagt Staab - weil die Teammitglieder womöglich selbst betroffen wären.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Diskriminierung: KI ist nur so fair wie die MenschenManche Dax-Firma hat im LGBT-Index nur wenige Punkte 
  1.  
  2. 1
  3. 2
  4. 3
  5.  


Anzeige
Hardware-Angebote

GodsBoss 18. Jun 2020

Ich habe nichts dagegen, dass Menschen und/oder Unternehmen Sanktionen erfahren, wenn...

janoP 12. Jun 2020

Ob die Ergebnisse einer selbstlernenden, auf künstlichen neuronalen Netzen basierenden KI...

Hotohori 11. Jun 2020

Ist natürlich auch ein Problem, die Erwartungshaltung der Menschen was die KI leisten...

Hotohori 11. Jun 2020

Stimmt, das kommt auch noch dazu... XD

Gole-mAndI 11. Jun 2020

Du hast das falsch verstanden. Der Prozess sieht kein Nachdenken vor, daher findet es...


Folgen Sie uns
       


Razer Kyio Pro Webcam - Test

Webcams müssen keine miese Bildqualität haben, wie Razers Kyio Pro in unserem Test beweist.

Razer Kyio Pro Webcam - Test Video aufrufen
Programm für IT-Jobeinstieg: Hoffen auf den Klebeeffekt
Programm für IT-Jobeinstieg
Hoffen auf den Klebeeffekt

Aktuell ist der Jobeinstieg für junge Ingenieure und Informatiker schwer. Um ihnen zu helfen, hat das Land Baden-Württemberg eine interessante Idee: Es macht sich selbst zur Zeitarbeitsfirma.
Ein Bericht von Peter Ilg

  1. Arbeitszeit Das Sechs-Stunden-Experiment bei Sipgate
  2. Neuorientierung im IT-Job Endlich mal machen!
  3. IT-Unternehmen Die richtige Software für ein Projekt finden

Weclapp-CTO Ertan Özdil: Wir dürfen nicht in Schönheit und Perfektion untergehen!
Weclapp-CTO Ertan Özdil
"Wir dürfen nicht in Schönheit und Perfektion untergehen!"

Der CTO von Weclapp träumt von smarter Software, die menschliches Eingreifen in der nächsten ERP-Generation reduziert. Deutschen Perfektionismus hält Ertan Özdil aber für gefährlich.
Ein Interview von Maja Hoock


    Fiat 500 als E-Auto im Test: Kleinstwagen mit großem Potenzial
    Fiat 500 als E-Auto im Test
    Kleinstwagen mit großem Potenzial

    Fiat hat einen neuen 500er entwickelt. Der Kleine fährt elektrisch - und zwar richtig gut.
    Ein Test von Peter Ilg

    1. Vierradlenkung Elektrischer GMC Hummer SUV fährt im Krabbengang seitwärts
    2. MG Cyberster MG B Roadster mit Lasergürtel und Union Jack
    3. Elektroauto E-Auto-Prämie übersteigt in 2021 schon Vorjahressumme

      •  /