• IT-Karriere:
  • Services:

Medizinsoftware: Forscher finden "rassistische Vorurteile" in Algorithmus

Ein in den USA gebräuchlicher Algorithmus stuft Patientenbedürfnisse nach den Arztrechnungen ein. Aufgrund der sozialen Verhältnisse im Land führt das zu einer Bevorzugung weißer Patienten bei der Behandlung. Eine Änderung des Algorithmus ist möglich, die Forscher halten sie ohne gesetzlichen Zwang aber nicht für wahrscheinlich

Artikel veröffentlicht am ,
Algorithmen werden schnell tendenziös.
Algorithmen werden schnell tendenziös. (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

In den USA wird in der Medizin Software eingesetzt, die Ärzte, Krankenpfleger und medizinische Ressourcen Patienten in Not zuteilt. Im Ergebnis werden offenbar weiße Patienten schwarzen Patienten bei der Behandlung vorgezogen, da sie einen höheren Risikofaktor zugewiesen bekommen. Zu diesem Schluss kommt eine Studie des Gesundheitsforschers Ziad Obermeyer von der University of California, veröffentlicht in der Publikation Science. Die Forscher sprechen von "rassistischen Vorurteilen" der Algorithmen.

Stellenmarkt
  1. Universitätsmedizin der Johannes Gutenberg-Universität Mainz, Mainz
  2. INSYS MICROELECTRONICS GmbH, Regensburg

Der untersuchte Algorithmus bewertet die Bedürfnisse der Patienten offenbar nach den Ausgaben, die sie bereits für medizinische Behandlungen getätigt haben. Er hat dabei Zugriff auf frühere Arztrechnungen, Behandlungen und andere gesundheitliche Einträge. 200 Millionen Amerikaner werden laut Science mit einem solchen System bewertet.

Gesellschaftlicher Stand ist ein Grund für die Ungleichheit

Das Problem liegt darin in den unterschiedlichen sozialen Verhältnissen: Schwarze US-Bürger geben durchschnittlich wesentlich weniger Geld für Gesundheitsvorsorge und medizinische Behandlung aus. Oftmals leben sie weiter von Krankenhäusern entfernt, haben striktere Berufswochenpläne oder Familienverpflichtungen. Deshalb gehen sie offenbar seltener zum Arzt und leiden daher öfter an chronischen Krankheiten. Die Software schließt allerdings aus den geringen Ausgaben, dass es den betroffenen Menschen gut geht und sie gesund sind. Entsprechend erhalten sie einen niedrigeren Risikofaktor.

Obermeyer ist sich sicher, dass sich dieses Verhalten auf alle Scoring-Algorithmen in der Medizin übertragen lässt. "Das ist ein industrieweiter systematischer Fehler", sagt er. Sein Team habe dabei durch einige Veränderungen der Bewertungskriterien weniger tendenziöse Ergebnisse erhalten. Die ethnische Bevorteilung sei um 84 Prozent reduziert geworden, so dass statt 17,7 Prozent aller untersuchten und bedürftigen Afroamerikaner zumindest 46,5 Prozent eine besondere Behandlung erhalten haben.

Die Soziologin Ruha Benjamin meint allerdings, dass die Industrie solche Änderungen nur vornehmen werde, wenn Gesetze und Vorschriften vom Staat dazu geschaffen werden. Ein Großteil der technologischen Entwicklungen setzten Geschwindigkeit und Profit vor das Gemeinwohl. Das müsse sich ändern.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • ohne Tracking
  • mit ausgeschaltetem Javascript


Anzeige
Top-Angebote
  1. 14,99€ (Release am 14. November)
  2. (u. a. Riotoro Enigma G2 750-W-Netzteil Gold Plus für 69,99€, Acer Nitro 27-Zoll-Monitor für...
  3. (u. a. Dark Souls 3 Digital Deluxe für 14,99€, Hitman 2 Gold für 23,99€, Assassin's Creed...
  4. 399,00€ (Bestpreis! zzgl. Versand)

janoP 29. Okt 2019 / Themenstart

Einen Algorithmus für irgendetwas einzusetzen, ist niemalsnie objektiv. Zu...

janoP 29. Okt 2019 / Themenstart

Du scheinst dich eher wenig mit der Demografie Nordamerikas auszukennen. Tatsächlich...

Aki-San 28. Okt 2019 / Themenstart

Das CP dieses Kommentars nimmt diesen wirklich die Ausdruckskraft und sieht erneut eher...

Aki-San 28. Okt 2019 / Themenstart

Also wenn ich eine wissenschaftliche Arbeit so abgeben würde, würde die nicht einmal...

Kommentieren


Folgen Sie uns
       


Star Wars Jedi Fallen Order angespielt

In Star Wars Jedi Fallen Order kämpft der Spieler als junger Jedi-Ritter gegen das schier übermächtige Imperium.

Star Wars Jedi Fallen Order angespielt Video aufrufen
Frauen in der IT: Ist Logik von Natur aus Männersache?
Frauen in der IT
Ist Logik von Natur aus Männersache?

Wenn es um die Frage geht, warum es immer noch so wenig Frauen in der IT gibt, kommt früher oder später das Argument, dass Frauen nicht eben zur Logik veranlagt seien. Kann die niedrige Zahl von Frauen in dieser Branche tatsächlich mit der Biologie erklärt werden?
Von Valerie Lux

  1. IT-Jobs Gibt es den Fachkräftemangel wirklich?
  2. Arbeit im Amt Wichtig ist ein Talent zum Zeittotschlagen
  3. IT-Freelancer Paradiesische Zustände

Red Dead Redemption 2 für PC angespielt: Schusswechsel mit Startschwierigkeiten
Red Dead Redemption 2 für PC angespielt
Schusswechsel mit Startschwierigkeiten

Die PC-Version von Red Dead Redemption 2 bietet schönere Grafik als die Konsolenfassung - aber nach der Installation dauert es ganz schön lange bis zum ersten Feuergefecht in den Weiten des Wilden Westens.

  1. Rockstar Games Red Dead Redemption 2 belegt 150 GByte auf PC-Festplatte
  2. Rockstar Games Red Dead Redemption 2 erscheint für Windows-PC und Stadia
  3. Rockstar Games Red Dead Online wird zum Rollenspiel

Fritzbox mit Docsis 3.1 in der Praxis: Hurra, wir haben Gigabit!
Fritzbox mit Docsis 3.1 in der Praxis
Hurra, wir haben Gigabit!

Die Fritzbox 6591 Cable für den Einsatz in Gigabit-Kabelnetzen ist seit Mai im Handel erhältlich. Wir haben getestet, wie schnell Vodafone mit Docsis 3.1 tatsächlich Daten überträgt und ob sich der Umstieg auf einen schnellen Router lohnt.
Ein Praxistest von Friedhelm Greis

  1. Nodesplits Vodafone bietet 500 MBit/s für 20 Millionen Haushalte
  2. Sercomm Kabelmodem für bis zu 2,5 GBit/s vorgestellt
  3. Kabelnetz Die Marke Unitymedia wird verschwinden

    •  /