• IT-Karriere:
  • Services:

Medizinsoftware: Forscher finden "rassistische Vorurteile" in Algorithmus

Ein in den USA gebräuchlicher Algorithmus stuft Patientenbedürfnisse nach den Arztrechnungen ein. Aufgrund der sozialen Verhältnisse im Land führt das zu einer Bevorzugung weißer Patienten bei der Behandlung. Eine Änderung des Algorithmus ist möglich, die Forscher halten sie ohne gesetzlichen Zwang aber nicht für wahrscheinlich

Artikel veröffentlicht am ,
Algorithmen werden schnell tendenziös.
Algorithmen werden schnell tendenziös. (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

In den USA wird in der Medizin Software eingesetzt, die Ärzte, Krankenpfleger und medizinische Ressourcen Patienten in Not zuteilt. Im Ergebnis werden offenbar weiße Patienten schwarzen Patienten bei der Behandlung vorgezogen, da sie einen höheren Risikofaktor zugewiesen bekommen. Zu diesem Schluss kommt eine Studie des Gesundheitsforschers Ziad Obermeyer von der University of California, veröffentlicht in der Publikation Science. Die Forscher sprechen von "rassistischen Vorurteilen" der Algorithmen.

Stellenmarkt
  1. operational services GmbH & Co. KG, Nürnberg
  2. InnoGames GmbH, Hamburg

Der untersuchte Algorithmus bewertet die Bedürfnisse der Patienten offenbar nach den Ausgaben, die sie bereits für medizinische Behandlungen getätigt haben. Er hat dabei Zugriff auf frühere Arztrechnungen, Behandlungen und andere gesundheitliche Einträge. 200 Millionen Amerikaner werden laut Science mit einem solchen System bewertet.

Gesellschaftlicher Stand ist ein Grund für die Ungleichheit

Das Problem liegt darin in den unterschiedlichen sozialen Verhältnissen: Schwarze US-Bürger geben durchschnittlich wesentlich weniger Geld für Gesundheitsvorsorge und medizinische Behandlung aus. Oftmals leben sie weiter von Krankenhäusern entfernt, haben striktere Berufswochenpläne oder Familienverpflichtungen. Deshalb gehen sie offenbar seltener zum Arzt und leiden daher öfter an chronischen Krankheiten. Die Software schließt allerdings aus den geringen Ausgaben, dass es den betroffenen Menschen gut geht und sie gesund sind. Entsprechend erhalten sie einen niedrigeren Risikofaktor.

Obermeyer ist sich sicher, dass sich dieses Verhalten auf alle Scoring-Algorithmen in der Medizin übertragen lässt. "Das ist ein industrieweiter systematischer Fehler", sagt er. Sein Team habe dabei durch einige Veränderungen der Bewertungskriterien weniger tendenziöse Ergebnisse erhalten. Die ethnische Bevorteilung sei um 84 Prozent reduziert geworden, so dass statt 17,7 Prozent aller untersuchten und bedürftigen Afroamerikaner zumindest 46,5 Prozent eine besondere Behandlung erhalten haben.

Die Soziologin Ruha Benjamin meint allerdings, dass die Industrie solche Änderungen nur vornehmen werde, wenn Gesetze und Vorschriften vom Staat dazu geschaffen werden. Ein Großteil der technologischen Entwicklungen setzten Geschwindigkeit und Profit vor das Gemeinwohl. Das müsse sich ändern.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Top-Angebote
  1. (u. a. ARK Survival Evolved für 6,99€, PSN Card 20 Euro für 18,49€)
  2. (u. a. Fractal Define R6 für 119,90€, Thermaltake Level 20 für 66,90€, Be Quiet Dark Base 700...
  3. 68,12€ (Bestpreis!)
  4. (aktuell u. a.Transcend ESD230C 960 GB SSD für 132,90€)

janoP 29. Okt 2019

Einen Algorithmus für irgendetwas einzusetzen, ist niemalsnie objektiv. Zu...

janoP 29. Okt 2019

Du scheinst dich eher wenig mit der Demografie Nordamerikas auszukennen. Tatsächlich...

Aki-San 28. Okt 2019

Das CP dieses Kommentars nimmt diesen wirklich die Ausdruckskraft und sieht erneut eher...

Aki-San 28. Okt 2019

Also wenn ich eine wissenschaftliche Arbeit so abgeben würde, würde die nicht einmal...


Folgen Sie uns
       


Rahmenloser TV von Samsung (CES 2020)

Der fast unsichtbare Rand des Q950TS hat anscheinend nicht nur Vorteile.

Rahmenloser TV von Samsung (CES 2020) Video aufrufen
Arbeit: Warum anderswo mehr Frauen IT-Berufe ergreifen
Arbeit
Warum anderswo mehr Frauen IT-Berufe ergreifen

In Deutschland ist die Zahl der Frauen in IT-Studiengängen und -Berufen viel niedriger als die der Männer. Doch in anderen Ländern sieht es ganz anders aus, etwa im arabischen Raum. Warum?
Von Valerie Lux

  1. Arbeit Was IT-Recruiting von der Bundesliga lernen kann
  2. Arbeit Wer ein Helfersyndrom hat, ist im IT-Support richtig
  3. Bewerber für IT-Jobs Unzureichend qualifiziert, zu wenig erfahren oder zu teuer

Digitalisierung: Aber das Faxgerät muss bleiben!
Digitalisierung
Aber das Faxgerät muss bleiben!

"Auf digitale Prozesse umstellen" ist leicht gesagt, aber in vielen Firmen ein komplexes Unterfangen. Viele Mitarbeiter und Chefs lieben ihre analogen Arbeitsmethoden und fürchten Veränderungen. Andere wiederum digitalisieren ohne Sinn und Verstand und blasen ihre Prozesse unnötig auf.
Ein Erfahrungsbericht von Marvin Engel

  1. Arbeitswelt SAP-Chef kritisiert fehlende Digitalisierung und Angst
  2. Deutscher Städte- und Gemeindebund "Raus aus der analogen Komfortzone"
  3. Digitalisierungs-Tarifvertrag Regelungen für Erreichbarkeit, Homeoffice und KI kommen

Computerlinguistik: Bordstein Sie Ihre Erwartung!
Computerlinguistik
"Bordstein Sie Ihre Erwartung!"

Ob Google, Microsoft oder Amazon: Unternehmen befinden sich im internationalen Wettlauf um die treffendsten Übersetzungen. Kontext-Integration, Datenmangel in kleinen Sprachen sowie fehlende Experten für Machine Learning und Sprachverarbeitung sind dabei immer noch die größten Hürden.
Ein Bericht von Maja Hoock

  1. OpenAI Roboterarm löst Zauberwürfel einhändig
  2. Faceapp Russische App liegt im Trend und entfacht Datenschutzdebatte

    •  /