Machine Learning: IBM will mit Automatisierung Vorurteile von KI ausräumen

IBM entwickelt eine Software, die automatisch die Entscheidungen von KI-Systemen nachvollziehen und eventuelle Vorurteile herausfinden kann, etwa wenn bestimmte Ethnien in einer Untersuchung offensichtlich benachteiligt werden. Das System zeichnet dazu Daten und den Quellcode auf.

Artikel veröffentlicht am ,
Warum entscheidet sich die Maschine so? IBMs Software soll es aufklären.
Warum entscheidet sich die Maschine so? IBMs Software soll es aufklären. (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

Das Forschungsteam von IBM Research entwickelt eine Software, die verschiedene Machine-Learning-Systeme automatisch analysiert. Das soll dabei helfen, die Gründe für eventuell vorurteilsbehaftete Entscheidungen innerhalb von trainierten Modellen zu finden. Die Software erkennt die Diskriminierung einzelner Individuen in unterschiedlichen Gruppen, wenn diese eigentlich gleiche Parameter erfüllen. Die Software untersucht allerdings auch verschieden bewertete Gruppen, wenn ein KI-System für sie unterschiedliche Entscheidungen trifft.

Stellenmarkt
  1. IT Project Architect / Scrum Master (gn)
    Getriebebau NORD GmbH & Co. KG, Bargteheide bei Hamburg
  2. Referent (m/w/d) Akademische Weiterbildung Schwerpunkt Studiengang-Management
    Technische Hochschule Ingolstadt, Ingolstadt
Detailsuche

Wichtig ist es dem Forscherteam, dass die Quelle von offensichtlich beeinflussten Ergebnissen erkannt wird. Als Beispiel nennen die Wissenschaftler einen Datensatz, der sich auf Haushypotheken bezieht. Wenn sich herausstellt, dass es beispielsweise negative Tendenzen gegenüber Schwarzen gibt, dann analysiert die Software diese Zielgruppe genau. Sie kann etwa herausfinden, dass speziell schwarze Frauen eines bestimmten Alters besonders herausstechen und bietet Lösungen an, um das Ergebnis gleichmäßiger zu gestalten. Meist sind dabei nicht die Machine-Learning-Systeme, sondern die Daten inhomogen. Auf Basis dieser treffen Algorithmen ihre Entscheidungen.

  • Die Software stellt KI-Entscheidungen grafisch dar. (Bild: IBM)
  • Die Software stellt KI-Entscheidungen grafisch dar. (Bild: IBM)
Die Software stellt KI-Entscheidungen grafisch dar. (Bild: IBM)

Die Software generiert eigene Testszenarien und lässt sie durch trainierte Machine-Learning-Modelle laufen. Die Ergebnisse stellt sie laut IBM "mit Erklärungen in natürlicher Sprache" dar. Grafiken sollen dabei helfen, Entscheidungen der untersuchten KI zu verstehen.

Um die Regeln der Datenschutz-Grundverordnung einzuhalten, kann IBMs Software den Entwicklungsprozess eines KI-Systems aufzeichnen und abrufbereit machen. Das Programm protokolliert alle wichtigen Schritte der Entwicklung eines Algorithmus, darunter das Sammeln von Quelldaten, Modelltraining, Einsatz einer Modellgeneration und weitere Trainingsschritte. Aufgezeichnet werden die Daten und der Quellcode des Modells.

Golem Akademie
  1. Automatisierung (RPA) mit Python: virtueller Zwei-Tage-Workshop
    11./12.07.2022, Virtuell
  2. Advanced Python – Fortgeschrittene Programmierthemen: virtueller Drei-Tage-Workshop
    23.-25.01.2023, Virtuell
Weitere IT-Trainings

Anhand dieser Informationen kann die Software die Entscheidungsfindung eines KI-Systems und die dafür genutzten Kriterien grafisch darstellen, beispielsweise warum ein Versicherungsanspruch nicht genehmigt wird.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Strange New Worlds Folge 1 bis 3
Star Trek - The Latest Generation

Strange New Worlds kehrt zu episodenhaften Geschichten zurück und will damit Star-Trek-Fans alter Schule abholen. Das gelingt mit Bravour. Achtung, Spoiler!
Eine Rezension von Oliver Nickel

Strange New Worlds Folge 1 bis 3: Star Trek - The Latest Generation
Artikel
  1. LTE-Patent: Ford droht Verkaufs- und Produktionsverbot in Deutschland
    LTE-Patent
    Ford droht Verkaufs- und Produktionsverbot in Deutschland

    Ford fehlen Mobilfunk-Patentlizenzen, weshalb das Landgericht München eine drastische Entscheidung gefällt hat. Autos droht sogar die Vernichtung.

  2. Flowcamper: Elektro-Wohnmobil Frieda Volt auf VW-Basis vorgestellt
    Flowcamper
    Elektro-Wohnmobil Frieda Volt auf VW-Basis vorgestellt

    Das elektrische Wohnmobil Frieda Volt basiert auf einem umgebauten Volkswagen T5 oder T6 und ist mit einem 72-kWh-Akku ausgerüstet.

  3. Cariad: Aufsichtsrat greift bei VWs Softwareentwicklung durch
    Cariad
    Aufsichtsrat greift bei VWs Softwareentwicklung durch

    Die Sorge um die Volkswagen-Softwarefirma Cariad hat den Aufsichtsrat veranlasst, ein überarbeitetes Konzept für die ehrgeizigen Pläne vorzulegen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Borderlands 3 gratis • CW: Top-Rabatte auf PC-Komponenten • Inno3D RTX 3070 614€ • Crucial P5 Plus 2 TB 229,99€ • Preis-Tipp: Kingston NV1 2 TB 129,90€ • AVM FRITZ!Repeater 1200 AX 69€ • MindStar (u. a. Palit RTX 3050 339€) • MMOGA (u. a. Total War Warhammer 3 29,49€) [Werbung]
    •  /