Machine Learning: IBM will mit Automatisierung Vorurteile von KI ausräumen

IBM entwickelt eine Software, die automatisch die Entscheidungen von KI-Systemen nachvollziehen und eventuelle Vorurteile herausfinden kann, etwa wenn bestimmte Ethnien in einer Untersuchung offensichtlich benachteiligt werden. Das System zeichnet dazu Daten und den Quellcode auf.

Artikel veröffentlicht am ,
Warum entscheidet sich die Maschine so? IBMs Software soll es aufklären.
Warum entscheidet sich die Maschine so? IBMs Software soll es aufklären. (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

Das Forschungsteam von IBM Research entwickelt eine Software, die verschiedene Machine-Learning-Systeme automatisch analysiert. Das soll dabei helfen, die Gründe für eventuell vorurteilsbehaftete Entscheidungen innerhalb von trainierten Modellen zu finden. Die Software erkennt die Diskriminierung einzelner Individuen in unterschiedlichen Gruppen, wenn diese eigentlich gleiche Parameter erfüllen. Die Software untersucht allerdings auch verschieden bewertete Gruppen, wenn ein KI-System für sie unterschiedliche Entscheidungen trifft.

Stellenmarkt
  1. IT Manager Robotics Process Automation und Workflow Management (m/w/x)
    ALDI International Services GmbH & Co. oHG, Mülheim an der Ruhr
  2. Systementwickler/in (m/w/d) - Fahrzeug- und Systemfunktionen
    Volkswagen AG, Wolfsburg
Detailsuche

Wichtig ist es dem Forscherteam, dass die Quelle von offensichtlich beeinflussten Ergebnissen erkannt wird. Als Beispiel nennen die Wissenschaftler einen Datensatz, der sich auf Haushypotheken bezieht. Wenn sich herausstellt, dass es beispielsweise negative Tendenzen gegenüber Schwarzen gibt, dann analysiert die Software diese Zielgruppe genau. Sie kann etwa herausfinden, dass speziell schwarze Frauen eines bestimmten Alters besonders herausstechen und bietet Lösungen an, um das Ergebnis gleichmäßiger zu gestalten. Meist sind dabei nicht die Machine-Learning-Systeme, sondern die Daten inhomogen. Auf Basis dieser treffen Algorithmen ihre Entscheidungen.

  • Die Software stellt KI-Entscheidungen grafisch dar. (Bild: IBM)
  • Die Software stellt KI-Entscheidungen grafisch dar. (Bild: IBM)
Die Software stellt KI-Entscheidungen grafisch dar. (Bild: IBM)

Die Software generiert eigene Testszenarien und lässt sie durch trainierte Machine-Learning-Modelle laufen. Die Ergebnisse stellt sie laut IBM "mit Erklärungen in natürlicher Sprache" dar. Grafiken sollen dabei helfen, Entscheidungen der untersuchten KI zu verstehen.

Um die Regeln der Datenschutz-Grundverordnung einzuhalten, kann IBMs Software den Entwicklungsprozess eines KI-Systems aufzeichnen und abrufbereit machen. Das Programm protokolliert alle wichtigen Schritte der Entwicklung eines Algorithmus, darunter das Sammeln von Quelldaten, Modelltraining, Einsatz einer Modellgeneration und weitere Trainingsschritte. Aufgezeichnet werden die Daten und der Quellcode des Modells.

Anhand dieser Informationen kann die Software die Entscheidungsfindung eines KI-Systems und die dafür genutzten Kriterien grafisch darstellen, beispielsweise warum ein Versicherungsanspruch nicht genehmigt wird.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Krypto-Betrug in Milliardenhöhe
Gründer von Africrypt stehlen 69.000 Bitcoin

Die Gründer der Kryptoplattform Africrypt haben sich offenbar mit 69.000 gestohlenen Bitcoin abgesetzt. Der Betrug deutete sich schon vor Monaten an.

Krypto-Betrug in Milliardenhöhe: Gründer von Africrypt stehlen 69.000 Bitcoin
Artikel
  1. iPhone: Apple warnt offenbar Leaker aus China
    iPhone
    Apple warnt offenbar Leaker aus China

    Bevor Apple neue Geräte veröffentlicht, gibt es oft eine Reihe von Leaks aus chinesischen Produktionsanlagen. Leaker haben nun Post bekommen.

  2. Buzzfeed, Wasserstoff, Berlin: Taxi-Fahrer erhalten 15.000 Euro für Elektroautos
    Buzzfeed, Wasserstoff, Berlin
    Taxi-Fahrer erhalten 15.000 Euro für Elektroautos

    Sonst noch was? Was am 24. Juni 2021 neben den großen Meldungen sonst noch passiert ist, in aller Kürze.

  3. Lego Builder's Journey im Test: Knuffige Klötzchen knobeln
    Lego Builder's Journey im Test
    Knuffige Klötzchen knobeln

    Zwei Figuren und viele Welten: Lego Builder's Journey erzählt die Geschichte einer Reise - und sieht mit Raytracing verblüffend real aus.
    Ein Test von Marc Sauter

Prokopfverbrauch 20. Sep 2018

Wenn ich das so lese "automatisch", heißt ja eine "KI" überprüft eine KI, bzw. zumindest...


Folgen Sie uns
       


  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • Mega-Wiedereröffnung bei MediaMarkt - bis zu 30 Prozent Rabatt • Samsung SSD 980 Pro PCIe 4.0 1TB 166,59€ • Gigabyte M27Q 27" WQHD 170Hz 338,39€ • AMD Ryzen 5 5600X 251,59€ • Dualsense Midnight Black + R&C Rift Apart 99,99€ • Logitech Lenkrad-Sets zu Bestpreisen [Werbung]
    •  /