Dermatologie: Google-Gesundheitsapp berücksichtigt kaum dunkle Haut
Auf seiner Hausmesse I/O hat Google ein weiteres KI-Werkzeug(öffnet im neuen Fenster) vorgestellt, dass seinen Nutzern bei bestimmten Gesundheitsfragen zur Seite stehen soll. Konkret handelt es sich dabei um eine Dermatologie-App, die helfen soll, übliche Hautkrankheiten zu erkennen. Wie das Magazin Motherboard berichtet(öffnet im neuen Fenster) , sind dabei insbesondere dunkle Hauttypen jedoch stark unterrepräsentiert.
Google begründet die Arbeiten an seiner App damit, dass die Suchmaschine jährlich zehn Milliarden Suchanfragen zu Hautproblemen und verwandten Themen wie zu Nägeln und Haaren erhalte.
Mithilfe von Bildern der Nutzer, einigen Fragen zu Symptomen und der trainierten KI will Google dabei helfen, die Auswahl möglicher Erkrankungen einzugrenzen. Dabei unterscheide der Dienst zwischen 288 verschiedenen Erkrankungen.
Zu wenig Daten für dunkle Haut
In der zugrunde liegenden wissenschaftlichen Arbeit (PDF)(öffnet im neuen Fenster) beschreibt Google die Auswahl und Verteilung der zum Training des Modells genutzten Bilder von Patienten. Demnach zeigen nur rund 3,5 Prozent der Bilder Haut mit dem Hauttyp der Fitzpatrick-Kategorie V und VI(öffnet im neuen Fenster) , was braune bis schwarze Haut umfasst. Auch der besonders helle Hauttyp I ist offenbar kaum in den Ausgangsdaten vertreten. Laut dem Bericht könnte dies bei dem KI-Modell zu falschen Diagnosen führen.
Zwar habe Motherboard Auswertungen des Systems von Google einsehen können, wonach das System insbesondere bei Schwarzen gut funktioniere. Dies basiere aber auf einer Selbstbeschreibung der Zugehörigkeit zu einer ethnischen Gruppe, nicht aber auf dem tatsächlichen Hauttyp, der sich innerhalb dieser Gruppen individuell sehr stark unterscheiden kann.
Google selbst begründet dies auf Nachfrage von Motherboard schlicht damit, dass die gesamten Dermatologie ein Problem mit der Verfügbarkeit von Daten für dunkle Hauttypen habe und dass die beteiligten Forscher und Entwickler dem Rechnung trügen. Auch werde die App künftig stets weiter verbessert.
Ein von Motherboard zitierter Dermatologe und Forscher, Ade Adamson, geht davon aus, dass die von Google künstlich erhöhte Sensitivität für die wenig repräsentierten Hauttypen zu einer Erhöhung falsch positiver Diagnosen führen wird. Über ähnliche Befürchtungen von anderen Forschern berichtet auch der Guardian(öffnet im neuen Fenster) .