Abo
  • IT-Karriere:

Machine Learning: IBM will mit Automatisierung Vorurteile von KI ausräumen

IBM entwickelt eine Software, die automatisch die Entscheidungen von KI-Systemen nachvollziehen und eventuelle Vorurteile herausfinden kann, etwa wenn bestimmte Ethnien in einer Untersuchung offensichtlich benachteiligt werden. Das System zeichnet dazu Daten und den Quellcode auf.

Artikel veröffentlicht am ,
Warum entscheidet sich die Maschine so? IBMs Software soll es aufklären.
Warum entscheidet sich die Maschine so? IBMs Software soll es aufklären. (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

Das Forschungsteam von IBM Research entwickelt eine Software, die verschiedene Machine-Learning-Systeme automatisch analysiert. Das soll dabei helfen, die Gründe für eventuell vorurteilsbehaftete Entscheidungen innerhalb von trainierten Modellen zu finden. Die Software erkennt die Diskriminierung einzelner Individuen in unterschiedlichen Gruppen, wenn diese eigentlich gleiche Parameter erfüllen. Die Software untersucht allerdings auch verschieden bewertete Gruppen, wenn ein KI-System für sie unterschiedliche Entscheidungen trifft.

Stellenmarkt
  1. operational services GmbH & Co. KG, Frankfurt am Main, Wolfsburg, Braunschweig, Berlin
  2. CodeCamp:N GmbH, Nürnberg

Wichtig ist es dem Forscherteam, dass die Quelle von offensichtlich beeinflussten Ergebnissen erkannt wird. Als Beispiel nennen die Wissenschaftler einen Datensatz, der sich auf Haushypotheken bezieht. Wenn sich herausstellt, dass es beispielsweise negative Tendenzen gegenüber Schwarzen gibt, dann analysiert die Software diese Zielgruppe genau. Sie kann etwa herausfinden, dass speziell schwarze Frauen eines bestimmten Alters besonders herausstechen und bietet Lösungen an, um das Ergebnis gleichmäßiger zu gestalten. Meist sind dabei nicht die Machine-Learning-Systeme, sondern die Daten inhomogen. Auf Basis dieser treffen Algorithmen ihre Entscheidungen.

  • Die Software stellt KI-Entscheidungen grafisch dar. (Bild: IBM)
  • Die Software stellt KI-Entscheidungen grafisch dar. (Bild: IBM)
Die Software stellt KI-Entscheidungen grafisch dar. (Bild: IBM)

Die Software generiert eigene Testszenarien und lässt sie durch trainierte Machine-Learning-Modelle laufen. Die Ergebnisse stellt sie laut IBM "mit Erklärungen in natürlicher Sprache" dar. Grafiken sollen dabei helfen, Entscheidungen der untersuchten KI zu verstehen.

Um die Regeln der Datenschutz-Grundverordnung einzuhalten, kann IBMs Software den Entwicklungsprozess eines KI-Systems aufzeichnen und abrufbereit machen. Das Programm protokolliert alle wichtigen Schritte der Entwicklung eines Algorithmus, darunter das Sammeln von Quelldaten, Modelltraining, Einsatz einer Modellgeneration und weitere Trainingsschritte. Aufgezeichnet werden die Daten und der Quellcode des Modells.

Anhand dieser Informationen kann die Software die Entscheidungsfindung eines KI-Systems und die dafür genutzten Kriterien grafisch darstellen, beispielsweise warum ein Versicherungsanspruch nicht genehmigt wird.



Anzeige
Top-Angebote
  1. (u. a. 4K-Filme im Steelbook und Amiibo-Figuren)
  2. ab 99,00€
  3. (u. a. GTA 5 für 12,99€, Landwirtschafts-Simulator 19 für 27,99€, Battlefield V für 32,99€)
  4. 169,00€

Prokopfverbrauch 20. Sep 2018

Wenn ich das so lese "automatisch", heißt ja eine "KI" überprüft eine KI, bzw. zumindest...


Folgen Sie uns
       


Nintendo Game Boy - ein kurzer Rückblick

Tetris, Pokémon, Super Mario - wir fassen die Geschichte des Game Boy im Video zusammen.

Nintendo Game Boy - ein kurzer Rückblick Video aufrufen
Sicherheitslücken: Zombieload in Intel-Prozessoren
Sicherheitslücken
Zombieload in Intel-Prozessoren

Forscher haben weitere Seitenkanalangriffe auf Intel-Prozessoren entdeckt, die sie Microarchitectural Data Sampling alias Zombieload nennen. Der Hersteller wusste davon und reagiert mit CPU-Revisionen. Apple rät dazu, Hyperthreading abzuschalten - was 40 Prozent Performance kosten kann.
Ein Bericht von Marc Sauter und Sebastian Grüner

  1. Open-Source Technology Summit Intel will moderne Firmware und Rust-VMM für Server
  2. Ice Lake plus Xe-GPGPU Intel erläutert 10-nm- und 7-nm-Zukunft
  3. GPU-Architektur Intels Xe beschleunigt Raytracing in Hardware

Lightyear One: Luxus-Elektroauto fährt auch mit Solarstrom
Lightyear One
Luxus-Elektroauto fährt auch mit Solarstrom

Ein niederländisches Jungunternehmen hat ein ungewöhnliches Fahrzeug entwickelt, das Luxus und Umweltfreundlichkeit kombiniert. Solarzellen auf dem Dach erhöhen die Reichweite um bis zu 220 Kilometer.
Von Wolfgang Kempkens

  1. Elektromobilität EnBW will weitere 2.000 Schnellladepunkte errichten
  2. Elektromobilität Verkehrsminister will Elektroautos länger und mehr fördern
  3. Elektroautos e.GO Mobile liefert erste Fahrzeuge aus

Motorola One Vision im Hands on: Smartphone mit 48-Megapixel-Kamera für 300 Euro
Motorola One Vision im Hands on
Smartphone mit 48-Megapixel-Kamera für 300 Euro

Motorola bringt ein weiteres Android-One-Smartphone auf den Markt. Die Neuvorstellung verwendet viel Samsung-Technik und hat ein sehr schmales Display. Die technischen Daten sind für diese Preisklasse vielversprechend.
Ein Hands on von Ingo Pakalski

  1. Moto G7 Power Lenovos neues Motorola-Smartphone hat einen großen Akku
  2. Smartphones Lenovo leakt neue Moto-G7-Serie

    •  /