#blacklivesmatter: IBM stellt Arbeit an Gesichtserkennung ein

IBMs CEO will gegen diskriminierende Gesichtserkennung vorgehen - zu einem opportunen Zeitpunkt.

Artikel von veröffentlicht am
Gesichtserkennung wird bereits in vielen öffentlichen Orten eingesetzt.
Gesichtserkennung wird bereits in vielen öffentlichen Orten eingesetzt. (Bild: Pixabay.com/Montage: Golem.de)

IBM-CEO Arvind Krishna will die Entwicklung von Gesichtserkennungssoftware im von ihm geführten Konzern nicht mehr verfolgen. "IBM ist vehement gegen solche Technik und wird diese nicht mehr akzeptieren, wenn sie für Massenüberwachung, Racial Profiling, Verstöße gegen grundlegende Menschenrechte und -Freiheiten oder einen anderen Zweck genutzt wird, der nicht mit unseren Werten und Prinzipien des Vertrauens und der Transparenz konform ist. Das schließt Gesichtserkennungstechniken anderer Hersteller ein", schreibt Krishna in dem Dokument.

Stellenmarkt
  1. IT-Spezialist als Software-Entwickler / Tester (Informatiker, Fachinformatiker, Wirtschaftsinformatiker ... (m/w/d)
    tailor-made software GmbH, deutschlandweit (Home-Office möglich)
  2. IT-Systemadministration (m/w/d) im Referat "ADV, Informations- und Kommunikationstechnik, Statistik" ... (m/w/d)
    Ministerium für Klimaschutz, Umwelt, Energie und Mobilität des Landes Rheinland-Pfalz, Mainz
Detailsuche

Deshalb werden die Arbeiten an bisherigen Gesichtserkennungssystemen komplett eingestellt. Außerdem sollen zunächst keine weiteren Forschungen in diese Richtung erfolgen. Das schreibt Krishna in einem Brief an den US-Kongress.

Es sei wichtig, in Zeiten, in denen immer mehr Menschen für gleiche Rechte demonstrierten, in den nationalen Dialog zum Thema Gesichtserkennungssoftware und deren ethische Vorgaben zu treten.

Vorurteile in der KI-Entwicklung

Es passiert immer wieder, dass Algorithmen, die meist auf einer einseitig repräsentierten Datengrundlage aufbauen, vorurteilsbehaftet erscheinen. Im Herbst 2019 hatte etwa eine medizinische Software weiße Patienten schwarzen Patienten bevorzugt.

Golem Akademie
  1. Netzwerktechnik Kompaktkurs: virtueller Fünf-Tage-Workshop
    6.–10. Dezember 2021, virtuell
  2. Penetration Testing Fundamentals: virtueller Zwei-Tage-Workshop
    17.–18. Januar 2022, Virtuell
Weitere IT-Trainings

Auch OpenAI gesteht beim aktuellen Sprachmodell GPT-3 noch einige Probleme mit der Gleichbehandlung aller Menschen ein. Amazon Rekognition, das aktiv von Polizeiabschnitten in den USA eingesetzt wird, ist etwa bei der Erkennung von Frauen unverhältnismäßig ungenau.

Im Jahr 2018 war IBMs eigene Gesichtserkennungssoftware unter zu finden, die Menschen mit Migrationshintergrund und Frauen ungerecht oder falsch zugeordneten. Auch hatte das Unternehmen Software entwickelt, die Flüchtlinge von Terroristen an EU-Grenzen unterscheiden sollte. Dazu wurden Datenschutzbedenken geäußert.

Im April 2019 beendete IBM ein Gesichtserkennungsprodukt, das von der New Yorker Polizei für Racial Profiling, also die Identifikation von Menschengruppen anhand ihrer Hautfarbe oder ihrer Ethnie, eingesetzt werden sollte. Die Software wurde von Bürgerrechtlern kritisiert und soll auch wirtschaftlich nicht erfolgreich gewesen sein. Darüber berichtete das Magazin Typeinvestigators im Sommer 2019.

Der Autor meint dazu

IBM selbst hat eine recht lange Geschichte von unreflektierter KI-Entwicklung und Ungleichbehandlung hinter sich, was eine Frage aufwirft: Warum wird jetzt der Ausstieg eingeleitet?

Die derzeitige Situation in den USA ist zumindest zunächst ein guter Anlass für einen Ausstieg, der zugleich medial Anklang findet. Möglicherweise konnte IBM, das zuletzt wohl viele Mitarbeiter entlassen musste und auch durch Diskriminierung im Bewerbungsprozess aufgefallen ist, nur noch diesen Weg gehen. Normalerweise sind große Unternehmen mit vielen Tausend Mitarbeiter schlicht zu starr, um wirkliche Änderungen schnell und den aktuellen Umständen und Protesten entsprechend umzusetzen.

Arvind Krishna ist erst seit Anfang 2020 Führungskraft des Konzerns und könnte letztlich ein radikaleres Umdenken im Konzern ausgelöst haben. Für die Rettung des schon angeschlagenen Rufs des Unternehmens ist dies womöglich die richtige Entscheidung.

Dem sollten allerdings auch Taten folgen: Einfach nur wegzuschauen, ist nicht der richtige Weg. Stattdessen sollte das Unternehmen aktiv den Dialog einleiten, den Krishna predigt. Der Bilddatensatz IBM Dif, der für eine gleichberechtigte Datengrundlage sorgen soll, ist schon ein Schritt in diese Richtung.

IBM sollte dabei aufpassen, dass die eigenen Produkte nicht trotzdem Ungerechtigkeit fördern. Schließlich verkauft das Unternehmen etwa eine Datengrundlage für Big-Data-Analysen, um Kriminalität vorzubeugen - Und diese könnte die Quelle für mehr problematische Gesichtserkennungssoftware sein.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


edison.cannon 11. Jun 2020

Primaquin

Ach 10. Jun 2020

Zum ersten mal überhaupt erkennt ein Unternehmen in der ungehemmten Observierung und...

ikso 09. Jun 2020

Da hat wohl jemand die Hosen voll, dass die Masse sich gegen IBM richtet. Mit etwas Moral...

Nr.1 09. Jun 2020

Gesucht wird ein Wesen. Zweibeinig, mit Sprache. Es hat eine Größe und ein Geschlecht...

XAEA-12 09. Jun 2020

Der nicht so eine engstirnige Vorstellung von Moral hat



Aktuell auf der Startseite von Golem.de
Resident Evil (1996)
Grauenhaft gut

Resident Evil zeigte vor 25 Jahren, wie Horror im Videospiel auszusehen hat. Wir schauen uns den Klassiker im Golem retro_ an.

Resident Evil (1996): Grauenhaft gut
Artikel
  1. Streaming: Chromecast erhält spezielle Youtube-Fernbedienung
    Streaming
    Chromecast erhält spezielle Youtube-Fernbedienung

    Die Steuerung von Youtube auf einem Chromecast soll mit einer neuen Funktion deutlich komfortabler werden.

  2. Studie: Kinder erhalten Smartphone meist zwischen 6 und 11 Jahren
    Studie
    Kinder erhalten Smartphone meist zwischen 6 und 11 Jahren

    Nur eine sehr geringe Minderheit der Eltern will ihrem Kind erst mit 15 Jahren ein Smartphone zur Verfügung stellen.

  3. Google: Kopfhörer verlieren Google-Assistant-Support auf iPhones
    Google
    Kopfhörer verlieren Google-Assistant-Support auf iPhones

    Wer Google Assistant am Kopfhörer benutzen will, ist künftig auf ein Android-Gerät angewiesen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Saturn-Advent: Samsung Portable SSD T5 1 TB 84€ • ViewSonic VX2718-2KPC-MHD (WQHD, 165 Hz) 229€ • EPOS Sennheiser GSP 670 199€ • EK Water Blocks Elite Aurum 360 D-RGB All in One 205,89€ • KFA2 Geforce RTX 3070 OC 8 GB 1.019€ • Alternate (u. a. AKRacing Core SX 269,98€) [Werbung]
    •  /