Medizinsoftware: Forscher finden "rassistische Vorurteile" in Algorithmus

Ein in den USA gebräuchlicher Algorithmus stuft Patientenbedürfnisse nach den Arztrechnungen ein. Aufgrund der sozialen Verhältnisse im Land führt das zu einer Bevorzugung weißer Patienten bei der Behandlung. Eine Änderung des Algorithmus ist möglich, die Forscher halten sie ohne gesetzlichen Zwang aber nicht für wahrscheinlich

Artikel veröffentlicht am ,
Algorithmen werden schnell tendenziös.
Algorithmen werden schnell tendenziös. (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

In den USA wird in der Medizin Software eingesetzt, die Ärzte, Krankenpfleger und medizinische Ressourcen Patienten in Not zuteilt. Im Ergebnis werden offenbar weiße Patienten schwarzen Patienten bei der Behandlung vorgezogen, da sie einen höheren Risikofaktor zugewiesen bekommen. Zu diesem Schluss kommt eine Studie des Gesundheitsforschers Ziad Obermeyer von der University of California, veröffentlicht in der Publikation Science. Die Forscher sprechen von "rassistischen Vorurteilen" der Algorithmen.

Stellenmarkt
  1. Manager IT Infrastructure Service Operations CEE (m/w/d)
    Gate Gourmet GmbH Deutschland, Frankfurt am Main
  2. Projektmanager (m/w/d) Digital
    Buben & Mädchen GmbH, Mainz
Detailsuche

Der untersuchte Algorithmus bewertet die Bedürfnisse der Patienten offenbar nach den Ausgaben, die sie bereits für medizinische Behandlungen getätigt haben. Er hat dabei Zugriff auf frühere Arztrechnungen, Behandlungen und andere gesundheitliche Einträge. 200 Millionen Amerikaner werden laut Science mit einem solchen System bewertet.

Gesellschaftlicher Stand ist ein Grund für die Ungleichheit

Das Problem liegt darin in den unterschiedlichen sozialen Verhältnissen: Schwarze US-Bürger geben durchschnittlich wesentlich weniger Geld für Gesundheitsvorsorge und medizinische Behandlung aus. Oftmals leben sie weiter von Krankenhäusern entfernt, haben striktere Berufswochenpläne oder Familienverpflichtungen. Deshalb gehen sie offenbar seltener zum Arzt und leiden daher öfter an chronischen Krankheiten. Die Software schließt allerdings aus den geringen Ausgaben, dass es den betroffenen Menschen gut geht und sie gesund sind. Entsprechend erhalten sie einen niedrigeren Risikofaktor.

Obermeyer ist sich sicher, dass sich dieses Verhalten auf alle Scoring-Algorithmen in der Medizin übertragen lässt. "Das ist ein industrieweiter systematischer Fehler", sagt er. Sein Team habe dabei durch einige Veränderungen der Bewertungskriterien weniger tendenziöse Ergebnisse erhalten. Die ethnische Bevorteilung sei um 84 Prozent reduziert geworden, so dass statt 17,7 Prozent aller untersuchten und bedürftigen Afroamerikaner zumindest 46,5 Prozent eine besondere Behandlung erhalten haben.

Golem Karrierewelt
  1. CEH Certified Ethical Hacker v12: virtueller Fünf-Tage-Workshop
    30.01.-03.02.2023, Virtuell
  2. Deep Dive: Data Governance Fundamentals: virtueller Ein-Tages-Workshop
    22.02.2023, Virtuell
Weitere IT-Trainings

Die Soziologin Ruha Benjamin meint allerdings, dass die Industrie solche Änderungen nur vornehmen werde, wenn Gesetze und Vorschriften vom Staat dazu geschaffen werden. Ein Großteil der technologischen Entwicklungen setzten Geschwindigkeit und Profit vor das Gemeinwohl. Das müsse sich ändern.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


janoP 29. Okt 2019

Einen Algorithmus für irgendetwas einzusetzen, ist niemalsnie objektiv. Zu...

janoP 29. Okt 2019

Du scheinst dich eher wenig mit der Demografie Nordamerikas auszukennen. Tatsächlich...

Aki-San 28. Okt 2019

Das CP dieses Kommentars nimmt diesen wirklich die Ausdruckskraft und sieht erneut eher...



Aktuell auf der Startseite von Golem.de
Twitter
Was bisher bei Elon Musks Twitter 2.0 geschah

Nach der Twitter-Übernahme durch Elon Musk ist klar: Das Netzwerk hat wesentlich weniger Mitarbeiter. Es ist aber noch viel mehr passiert.
Ein Bericht von Oliver Nickel

Twitter: Was bisher bei Elon Musks Twitter 2.0 geschah
Artikel
  1. Responsible Disclosure: Obi macht das Melden einer Sicherheitslücke schwer
    Responsible Disclosure
    Obi macht das Melden einer Sicherheitslücke schwer

    Ein Sicherheitsforscher hat eine Lücke bei mehreren Unternehmen und Stadtverwaltungen gemeldet. Obi machte es ihm besonders schwer.

  2. Telefónica: Warum der LTE-Ausbau in der U-Bahn so lange dauert
    Telefónica
    Warum der LTE-Ausbau in der U-Bahn so lange dauert

    Seit August 2010 laufen in Deutschland LTE-Netze. Nun wird 5G langsam wichtiger, doch die Berliner U-Bahn ist noch immer nicht für alle mit 4G versorgt.

  3. Sono Motors: Solarauto Sion steht vor dem Aus
    Sono Motors
    Solarauto Sion steht vor dem Aus

    Sono Motors hat nicht mehr genug Geld für den Aufbau der Serienproduktion des Solarautos Sion. Nun soll die Community finanziell helfen. Mal wieder.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5 bei Amazon • Samsung SSDs bis -28% • Rabatt-Code für ebay • Logitech Mäuse, Tastaturen & Headsets -53% • HyperX PC-Peripherie -56% • Google Pixel 6 & 7 -49% • PS5-Spiele günstiger • Tiefstpreise: Palit RTX 4080 1.369€, Roccat Kone Pro 39,99€, Asus RTX 6950 XT 939€ [Werbung]
    •  /