Abo
  • IT-Karriere:

Machine Learning: IBM will mit Automatisierung Vorurteile von KI ausräumen

IBM entwickelt eine Software, die automatisch die Entscheidungen von KI-Systemen nachvollziehen und eventuelle Vorurteile herausfinden kann, etwa wenn bestimmte Ethnien in einer Untersuchung offensichtlich benachteiligt werden. Das System zeichnet dazu Daten und den Quellcode auf.

Artikel veröffentlicht am ,
Warum entscheidet sich die Maschine so? IBMs Software soll es aufklären.
Warum entscheidet sich die Maschine so? IBMs Software soll es aufklären. (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

Das Forschungsteam von IBM Research entwickelt eine Software, die verschiedene Machine-Learning-Systeme automatisch analysiert. Das soll dabei helfen, die Gründe für eventuell vorurteilsbehaftete Entscheidungen innerhalb von trainierten Modellen zu finden. Die Software erkennt die Diskriminierung einzelner Individuen in unterschiedlichen Gruppen, wenn diese eigentlich gleiche Parameter erfüllen. Die Software untersucht allerdings auch verschieden bewertete Gruppen, wenn ein KI-System für sie unterschiedliche Entscheidungen trifft.

Stellenmarkt
  1. OEDIV KG, Bielefeld
  2. windeln.de, Munich

Wichtig ist es dem Forscherteam, dass die Quelle von offensichtlich beeinflussten Ergebnissen erkannt wird. Als Beispiel nennen die Wissenschaftler einen Datensatz, der sich auf Haushypotheken bezieht. Wenn sich herausstellt, dass es beispielsweise negative Tendenzen gegenüber Schwarzen gibt, dann analysiert die Software diese Zielgruppe genau. Sie kann etwa herausfinden, dass speziell schwarze Frauen eines bestimmten Alters besonders herausstechen und bietet Lösungen an, um das Ergebnis gleichmäßiger zu gestalten. Meist sind dabei nicht die Machine-Learning-Systeme, sondern die Daten inhomogen. Auf Basis dieser treffen Algorithmen ihre Entscheidungen.

  • Die Software stellt KI-Entscheidungen grafisch dar. (Bild: IBM)
  • Die Software stellt KI-Entscheidungen grafisch dar. (Bild: IBM)
Die Software stellt KI-Entscheidungen grafisch dar. (Bild: IBM)

Die Software generiert eigene Testszenarien und lässt sie durch trainierte Machine-Learning-Modelle laufen. Die Ergebnisse stellt sie laut IBM "mit Erklärungen in natürlicher Sprache" dar. Grafiken sollen dabei helfen, Entscheidungen der untersuchten KI zu verstehen.

Um die Regeln der Datenschutz-Grundverordnung einzuhalten, kann IBMs Software den Entwicklungsprozess eines KI-Systems aufzeichnen und abrufbereit machen. Das Programm protokolliert alle wichtigen Schritte der Entwicklung eines Algorithmus, darunter das Sammeln von Quelldaten, Modelltraining, Einsatz einer Modellgeneration und weitere Trainingsschritte. Aufgezeichnet werden die Daten und der Quellcode des Modells.

Anhand dieser Informationen kann die Software die Entscheidungsfindung eines KI-Systems und die dafür genutzten Kriterien grafisch darstellen, beispielsweise warum ein Versicherungsanspruch nicht genehmigt wird.



Anzeige
Spiele-Angebote
  1. (-75%) 9,99€
  2. 22,99€
  3. 4,99€

Prokopfverbrauch 20. Sep 2018

Wenn ich das so lese "automatisch", heißt ja eine "KI" überprüft eine KI, bzw. zumindest...


Folgen Sie uns
       


55-Zoll-OLED-Monitor von Alienware - Test

Mit 120 Hz, 4K-Auflösung und 55-Zoll-Panel ist der AW5520qf ein riesiger Gaming-Monitor. Darauf macht es besonders Spaß, Monster in Borderlands 3 zu besiegen. Wäre da nicht die ziemlich niedrige Ausleuchtung.

55-Zoll-OLED-Monitor von Alienware - Test Video aufrufen
WLAN-Kameras ausgeknipst: Wer hat die Winkekatze geklaut?
WLAN-Kameras ausgeknipst
Wer hat die Winkekatze geklaut?

Weg ist die Winkekatze - und keine unserer vier Überwachungskameras hat den Dieb gesehen. Denn WLAN-Cams von Abus, Nest, Yi Technology und Arlo lassen sich ganz einfach ausschalten.
Von Moritz Tremmel

  1. Wi-Fi 6 Router und Clients für den neuen WLAN-Standard
  2. Wi-Fi 6 und 802.11ax Was bringt der neue WLAN-Standard?
  3. Brandenburg Vodafone errichtet 1.200 kostenlose WLAN-Hotspots

IT-Sicherheit: Auch kleine Netze brauchen eine Firewall
IT-Sicherheit
Auch kleine Netze brauchen eine Firewall

Unternehmen mit kleinem Geldbeutel verzichten häufig auf eine Firewall. Das sollten sie aber nicht tun, wenn ihnen die Sicherheit ihres Netzwerks wichtig ist.
Von Götz Güttich

  1. Anzeige Wo Daten wirklich sicher liegen
  2. Erasure Coding Das Ende von Raid kommt durch Mathematik
  3. Endpoint Security IT-Sicherheit ist ein Cocktail mit vielen Zutaten

Gemini Man: Überflüssiges Klonexperiment
Gemini Man
Überflüssiges Klonexperiment

Am 3. Oktober kommt mit Gemini Man ein ambitioniertes Projekt in die deutschen Kinos: Mit HFR-Projektion in 60 Bildern pro Sekunde und Will Smith, der gegen sein digital verjüngtes Ebenbild kämpft, betreibt der Actionfilm technisch viel Aufwand. Das Seherlebnis ist jedoch bestenfalls komisch.
Von Daniel Pook

  1. Filmkritik Apollo 11 Echte Mondlandung als packende Kinozeitreise

    •  /