• IT-Karriere:
  • Services:

#blacklivesmatter: IBM stellt Arbeit an Gesichtserkennung ein

IBMs CEO will gegen diskriminierende Gesichtserkennung vorgehen - zu einem opportunen Zeitpunkt.

Artikel von veröffentlicht am
Gesichtserkennung wird bereits in vielen öffentlichen Orten eingesetzt.
Gesichtserkennung wird bereits in vielen öffentlichen Orten eingesetzt. (Bild: Pixabay.com/Montage: Golem.de)

IBM-CEO Arvind Krishna will die Entwicklung von Gesichtserkennungssoftware im von ihm geführten Konzern nicht mehr verfolgen. "IBM ist vehement gegen solche Technik und wird diese nicht mehr akzeptieren, wenn sie für Massenüberwachung, Racial Profiling, Verstöße gegen grundlegende Menschenrechte und -Freiheiten oder einen anderen Zweck genutzt wird, der nicht mit unseren Werten und Prinzipien des Vertrauens und der Transparenz konform ist. Das schließt Gesichtserkennungstechniken anderer Hersteller ein", schreibt Krishna in dem Dokument.

Stellenmarkt
  1. HRI IT-Services GmbH, Berlin
  2. über eTec Consult GmbH, südlich von Stuttgart

Deshalb werden die Arbeiten an bisherigen Gesichtserkennungssystemen komplett eingestellt. Außerdem sollen zunächst keine weiteren Forschungen in diese Richtung erfolgen. Das schreibt Krishna in einem Brief an den US-Kongress.

Es sei wichtig, in Zeiten, in denen immer mehr Menschen für gleiche Rechte demonstrierten, in den nationalen Dialog zum Thema Gesichtserkennungssoftware und deren ethische Vorgaben zu treten.

Vorurteile in der KI-Entwicklung

Es passiert immer wieder, dass Algorithmen, die meist auf einer einseitig repräsentierten Datengrundlage aufbauen, vorurteilsbehaftet erscheinen. Im Herbst 2019 hatte etwa eine medizinische Software weiße Patienten schwarzen Patienten bevorzugt.

Auch OpenAI gesteht beim aktuellen Sprachmodell GPT-3 noch einige Probleme mit der Gleichbehandlung aller Menschen ein. Amazon Rekognition, das aktiv von Polizeiabschnitten in den USA eingesetzt wird, ist etwa bei der Erkennung von Frauen unverhältnismäßig ungenau.

Im Jahr 2018 war IBMs eigene Gesichtserkennungssoftware unter zu finden, die Menschen mit Migrationshintergrund und Frauen ungerecht oder falsch zugeordneten. Auch hatte das Unternehmen Software entwickelt, die Flüchtlinge von Terroristen an EU-Grenzen unterscheiden sollte. Dazu wurden Datenschutzbedenken geäußert.

Im April 2019 beendete IBM ein Gesichtserkennungsprodukt, das von der New Yorker Polizei für Racial Profiling, also die Identifikation von Menschengruppen anhand ihrer Hautfarbe oder ihrer Ethnie, eingesetzt werden sollte. Die Software wurde von Bürgerrechtlern kritisiert und soll auch wirtschaftlich nicht erfolgreich gewesen sein. Darüber berichtete das Magazin Typeinvestigators im Sommer 2019.

Der Autor meint dazu

IBM selbst hat eine recht lange Geschichte von unreflektierter KI-Entwicklung und Ungleichbehandlung hinter sich, was eine Frage aufwirft: Warum wird jetzt der Ausstieg eingeleitet?

Die derzeitige Situation in den USA ist zumindest zunächst ein guter Anlass für einen Ausstieg, der zugleich medial Anklang findet. Möglicherweise konnte IBM, das zuletzt wohl viele Mitarbeiter entlassen musste und auch durch Diskriminierung im Bewerbungsprozess aufgefallen ist, nur noch diesen Weg gehen. Normalerweise sind große Unternehmen mit vielen Tausend Mitarbeiter schlicht zu starr, um wirkliche Änderungen schnell und den aktuellen Umständen und Protesten entsprechend umzusetzen.

Arvind Krishna ist erst seit Anfang 2020 Führungskraft des Konzerns und könnte letztlich ein radikaleres Umdenken im Konzern ausgelöst haben. Für die Rettung des schon angeschlagenen Rufs des Unternehmens ist dies womöglich die richtige Entscheidung.

Dem sollten allerdings auch Taten folgen: Einfach nur wegzuschauen, ist nicht der richtige Weg. Stattdessen sollte das Unternehmen aktiv den Dialog einleiten, den Krishna predigt. Der Bilddatensatz IBM Dif, der für eine gleichberechtigte Datengrundlage sorgen soll, ist schon ein Schritt in diese Richtung.

IBM sollte dabei aufpassen, dass die eigenen Produkte nicht trotzdem Ungerechtigkeit fördern. Schließlich verkauft das Unternehmen etwa eine Datengrundlage für Big-Data-Analysen, um Kriminalität vorzubeugen - Und diese könnte die Quelle für mehr problematische Gesichtserkennungssoftware sein.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Hardware-Angebote
  1. täglich neue Deals bei Alternate.de
  2. (u. a. SanDisk Ultra 512GB MicroSDXC Speicherkarte + SD-Adapter für 72,99€, Western Digital 10...

edison.cannon 11. Jun 2020

Primaquin

Ach 10. Jun 2020

Zum ersten mal überhaupt erkennt ein Unternehmen in der ungehemmten Observierung und...

ikso 09. Jun 2020

Da hat wohl jemand die Hosen voll, dass die Masse sich gegen IBM richtet. Mit etwas Moral...

Nr.1 09. Jun 2020

Gesucht wird ein Wesen. Zweibeinig, mit Sprache. Es hat eine Größe und ein Geschlecht...

XAEA-12 09. Jun 2020

Der nicht so eine engstirnige Vorstellung von Moral hat


Folgen Sie uns
       


Samsung Galaxy S20 Ultra - Test

Das Galaxy S20 Ultra ist Samsungs Topmodell der Galaxy-S20-Reihe. Der südkoreanische Hersteller verbaut erstmals seinen 108-Megapixel-Kamerasensor - im Test haben wir uns aber mehr davon versprochen.

Samsung Galaxy S20 Ultra - Test Video aufrufen
Hildmann, Naidoo, Identitäre: Warum Telegram bei Rechten so beliebt ist
Hildmann, Naidoo, Identitäre
Warum Telegram bei Rechten so beliebt ist

Wer auf Telegram hetzt, den Holocaust leugnet oder Verschwörungsideologien verbreitet, muss nicht befürchten, dass seine Beiträge gelöscht werden. Auch große Gruppen fallen dort nicht unters NetzDG, die Strafverfolgung ist schwierig.
Ein Bericht von Stefan Krempl


    Elektromobilität: Ein Schiff, angetrieben durch die Kraft der Wellen
    Elektromobilität
    Ein Schiff, angetrieben durch die Kraft der Wellen

    Ein philippinischer Schiffbauer hat ein elektrisch angetriebenes Schiff entworfen, das den Strom für die Maschine selbst erzeugt.

    1. Elektromobilität Neues Elektroschiff für Fahrten durch norwegische Fjorde
    2. Autonomes Schiff IBM testet KI-Kapitän für autonome Mayflower
    3. Induktives Laden Elektrofähre in Norwegen lädt drahtlos

    Programmiersprache Go: Schlanke Syntax, schneller Compiler
    Programmiersprache Go
    Schlanke Syntax, schneller Compiler

    Die objektorientierte Programmiersprache Go eignet sich vor allem zum Schreiben von Netzwerk- und Cloud-Diensten.
    Von Tim Schürmann


        •  /