• IT-Karriere:
  • Services:

#blacklivesmatter: IBM stellt Arbeit an Gesichtserkennung ein

IBMs CEO will gegen diskriminierende Gesichtserkennung vorgehen - zu einem opportunen Zeitpunkt.

Artikel von veröffentlicht am
Gesichtserkennung wird bereits in vielen öffentlichen Orten eingesetzt.
Gesichtserkennung wird bereits in vielen öffentlichen Orten eingesetzt. (Bild: Pixabay.com/Montage: Golem.de)

IBM-CEO Arvind Krishna will die Entwicklung von Gesichtserkennungssoftware im von ihm geführten Konzern nicht mehr verfolgen. "IBM ist vehement gegen solche Technik und wird diese nicht mehr akzeptieren, wenn sie für Massenüberwachung, Racial Profiling, Verstöße gegen grundlegende Menschenrechte und -Freiheiten oder einen anderen Zweck genutzt wird, der nicht mit unseren Werten und Prinzipien des Vertrauens und der Transparenz konform ist. Das schließt Gesichtserkennungstechniken anderer Hersteller ein", schreibt Krishna in dem Dokument.

Stellenmarkt
  1. MULTIVAC Sepp Haggenmüller SE & Co. KG, Wolfertschwenden
  2. DE-CIX Management GmbH, Frankfurt

Deshalb werden die Arbeiten an bisherigen Gesichtserkennungssystemen komplett eingestellt. Außerdem sollen zunächst keine weiteren Forschungen in diese Richtung erfolgen. Das schreibt Krishna in einem Brief an den US-Kongress.

Es sei wichtig, in Zeiten, in denen immer mehr Menschen für gleiche Rechte demonstrierten, in den nationalen Dialog zum Thema Gesichtserkennungssoftware und deren ethische Vorgaben zu treten.

Vorurteile in der KI-Entwicklung

Es passiert immer wieder, dass Algorithmen, die meist auf einer einseitig repräsentierten Datengrundlage aufbauen, vorurteilsbehaftet erscheinen. Im Herbst 2019 hatte etwa eine medizinische Software weiße Patienten schwarzen Patienten bevorzugt.

Auch OpenAI gesteht beim aktuellen Sprachmodell GPT-3 noch einige Probleme mit der Gleichbehandlung aller Menschen ein. Amazon Rekognition, das aktiv von Polizeiabschnitten in den USA eingesetzt wird, ist etwa bei der Erkennung von Frauen unverhältnismäßig ungenau.

Im Jahr 2018 war IBMs eigene Gesichtserkennungssoftware unter zu finden, die Menschen mit Migrationshintergrund und Frauen ungerecht oder falsch zugeordneten. Auch hatte das Unternehmen Software entwickelt, die Flüchtlinge von Terroristen an EU-Grenzen unterscheiden sollte. Dazu wurden Datenschutzbedenken geäußert.

Im April 2019 beendete IBM ein Gesichtserkennungsprodukt, das von der New Yorker Polizei für Racial Profiling, also die Identifikation von Menschengruppen anhand ihrer Hautfarbe oder ihrer Ethnie, eingesetzt werden sollte. Die Software wurde von Bürgerrechtlern kritisiert und soll auch wirtschaftlich nicht erfolgreich gewesen sein. Darüber berichtete das Magazin Typeinvestigators im Sommer 2019.

Der Autor meint dazu

IBM selbst hat eine recht lange Geschichte von unreflektierter KI-Entwicklung und Ungleichbehandlung hinter sich, was eine Frage aufwirft: Warum wird jetzt der Ausstieg eingeleitet?

Die derzeitige Situation in den USA ist zumindest zunächst ein guter Anlass für einen Ausstieg, der zugleich medial Anklang findet. Möglicherweise konnte IBM, das zuletzt wohl viele Mitarbeiter entlassen musste und auch durch Diskriminierung im Bewerbungsprozess aufgefallen ist, nur noch diesen Weg gehen. Normalerweise sind große Unternehmen mit vielen Tausend Mitarbeiter schlicht zu starr, um wirkliche Änderungen schnell und den aktuellen Umständen und Protesten entsprechend umzusetzen.

Arvind Krishna ist erst seit Anfang 2020 Führungskraft des Konzerns und könnte letztlich ein radikaleres Umdenken im Konzern ausgelöst haben. Für die Rettung des schon angeschlagenen Rufs des Unternehmens ist dies womöglich die richtige Entscheidung.

Dem sollten allerdings auch Taten folgen: Einfach nur wegzuschauen, ist nicht der richtige Weg. Stattdessen sollte das Unternehmen aktiv den Dialog einleiten, den Krishna predigt. Der Bilddatensatz IBM Dif, der für eine gleichberechtigte Datengrundlage sorgen soll, ist schon ein Schritt in diese Richtung.

IBM sollte dabei aufpassen, dass die eigenen Produkte nicht trotzdem Ungerechtigkeit fördern. Schließlich verkauft das Unternehmen etwa eine Datengrundlage für Big-Data-Analysen, um Kriminalität vorzubeugen - Und diese könnte die Quelle für mehr problematische Gesichtserkennungssoftware sein.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Hardware-Angebote
  1. (u. a. Ryzen 7 5800X für 469€)

edison.cannon 11. Jun 2020

Primaquin

Ach 10. Jun 2020

Zum ersten mal überhaupt erkennt ein Unternehmen in der ungehemmten Observierung und...

ikso 09. Jun 2020

Da hat wohl jemand die Hosen voll, dass die Masse sich gegen IBM richtet. Mit etwas Moral...

Nr.1 09. Jun 2020

Gesucht wird ein Wesen. Zweibeinig, mit Sprache. Es hat eine Größe und ein Geschlecht...

XAEA-12 09. Jun 2020

Der nicht so eine engstirnige Vorstellung von Moral hat


Folgen Sie uns
       


Govecs Elmoto Loop - Test

Das Elmoto Loop von Govecs wiegt nur 59 Kilogramm, hat einen guten Elektromotor und fährt sich ganz anders als ein klassischer E-Roller.

Govecs Elmoto Loop - Test Video aufrufen
Programm für IT-Jobeinstieg: Hoffen auf den Klebeeffekt
Programm für IT-Jobeinstieg
Hoffen auf den Klebeeffekt

Aktuell ist der Jobeinstieg für junge Ingenieure und Informatiker schwer. Um ihnen zu helfen, hat das Land Baden-Württemberg eine interessante Idee: Es macht sich selbst zur Zeitarbeitsfirma.
Ein Bericht von Peter Ilg

  1. Arbeitszeit Das Sechs-Stunden-Experiment bei Sipgate
  2. Neuorientierung im IT-Job Endlich mal machen!
  3. IT-Unternehmen Die richtige Software für ein Projekt finden

Weclapp-CTO Ertan Özdil: Wir dürfen nicht in Schönheit und Perfektion untergehen!
Weclapp-CTO Ertan Özdil
"Wir dürfen nicht in Schönheit und Perfektion untergehen!"

Der CTO von Weclapp träumt von smarter Software, die menschliches Eingreifen in der nächsten ERP-Generation reduziert. Deutschen Perfektionismus hält Ertan Özdil aber für gefährlich.
Ein Interview von Maja Hoock


    Fiat 500 als E-Auto im Test: Kleinstwagen mit großem Potenzial
    Fiat 500 als E-Auto im Test
    Kleinstwagen mit großem Potenzial

    Fiat hat einen neuen 500er entwickelt. Der Kleine fährt elektrisch - und zwar richtig gut.
    Ein Test von Peter Ilg

    1. Vierradlenkung Elektrischer GMC Hummer SUV fährt im Krabbengang seitwärts
    2. MG Cyberster MG B Roadster mit Lasergürtel und Union Jack
    3. Elektroauto E-Auto-Prämie übersteigt in 2021 schon Vorjahressumme

      •  /