Abo
  • IT-Karriere:

KI-Ethik-Rat: Googles eigene Mitarbeiter wären eine bessere Wahl gewesen

Googles Ateac-Projekt wurde beendet. Es war von Anfang an zum Scheitern verurteilt: Warum beruft das Unternehmen offensichtlich intolerante Menschen ein? Die heftigen Proteste für Gleichberechtigung innerhalb des eigenen Teams zeigen doch, dass dort die eigentlichen Experten gefunden werden können.

Ein IMHO von veröffentlicht am
Diversität muss beachtet werden, auch bei Algorithmen.
Diversität muss beachtet werden, auch bei Algorithmen. (Bild: Pixabay.com/CC0 1.0)

Nach den Protesten gegen einige Mitglieder von Googles KI-Rat Ateac, der sich mit der Ethik und Gleichberechtigung von Machine Learning beschäftigen sollte, hat das Unternehmen laut der Nachrichtenagentur Reuters sein Projekt komplett eingestellt. Und das innerhalb nur einer Woche, nachdem das Team aus Wissenschaftlern, Ökonomen und Psychologen angekündigt wurde. Der Grund: Proteste der eigenen Mitarbeiter gegen zwei Mitglieder - ein offener Brief, den mehr als 2.000 Personen unterschrieben haben.

Stellenmarkt
  1. BwFuhrparkService GmbH, Troisdorf
  2. Schaeffler Technologies AG & Co. KG, Herzogenaurach

Die Anschuldigungen gegen die zwei ausgerufenen Experten sind durchaus berechtigt: Google habe mehr die Nähe zu Machtpositionen, als die Nähe zur Gleichbehandlung von Menschen mit unterschiedlicher sexueller Identifikation gesucht - ein Thema, das auch im Bereich Machine Learning beachtet werden sollte. Warum das Unternehmen ausgerechnet eine Person auswählt, die sich öffentlich gegen die lesbische, schwule, bisexuelle, Transgender- und Queer-Bevölkerung geäußert hat, ist daher absolut nicht nachvollziehbar. Das konnte von Anfang an nicht erfolgreich werden.

Google muss nicht weit schauen

Schaut Google auf seine eigene Belegschaft, wird schnell klar: Eine Wissenschaftlerin, die in ihrer Karriere an Militärprojekten gearbeitet hat, ist ebenfalls unerwünscht. Es kommt einem aber so vor, als habe das Unternehmen nicht allzu viel aus früheren Protesten wie gegen das mittlerweile eingestellte Projekt Maven gelernt. Schon damals äußerten sich Tausende Google-Mitarbeiter dagegen.

Googles offene Unternehmenskultur und die nach außen hin erscheinende Diversität von Ethnien, Lebensstilen, sexueller Ausrichtung und Geschlechtern wäre dabei doch eine perfekte Quelle, um daraus einen eigenen Ethik-Rat zu gründen. Dieser sollte sich aus Mitgliedern verschiedener Kulturen und Lebenslagen zusammensetzen. Menschen, die eigene Erfahrungen gesammelt und eventuell selbst Ungerechtigkeit oder Diskriminierung erfahren haben, wären perfekt - und solche Menschen scheint es im eigenen Unternehmen zu geben. Dazu sollten sich Informatiker im Unternehmen gesellen, die sich mit Googles Tensorflow und anderen KI-Systemen auskennen und die ethische Werte bereits im Kopf in kommende Software umsetzen können.

Ethik muss zudem unabhängig vom eigenen wirtschaftlichen Interesse betrachtet werden, weil das zu ungerechten Entscheidungen und damit intoleranten Systemen führen kann. Deshalb sind CEOs, große Anteilshaber und Vorstände nicht unbedingt eine gute Wahl. Dennoch hat Google sich genau dafür entschieden. Dabei ist es verständlich, dass das Unternehmen ausschließlich externe Experten einberufen hat. Googles Ansatz ist wohl, dass externe Berater nicht vorrangig auf die Interessen des eigenen Unternehmens achten und daher weniger leicht beeinflussbar sind.

Wie Projekte bei Amazon, Facebook, Microsoft und IBM, behandeln bisher auch einige KI-Systeme von Google Menschen aufgrund ihrer Ethnie oder ihres Geschlechtes ungleich. Bilderkennungssysteme haben es beispielsweise besonders schwer, kaukasische oder afroamerikanische Frauen auch als solche zu erkennen. Trotzdem werden sie teilweise sogar schon in Behörden eingesetzt - gefährlich!

Ethik für KI ist eine gute Idee

Wenn schon externe Experten gesucht werden, sollte Google Menschen einberufen, die sich bereits aktiv mit dem Thema beschäftigen, die dazu stehen und die ihre Karriere der Gleichbehandlung widmen. Forscherinnen wie Joy Buolamwini wären eine gute Wahl. Sie ist die Person, die mit ihren Untersuchungen bereits viele Vorurteile in KI-Systemen entdeckt hat - und sie ist sicherlich nicht die einzige, die sich damit intensiv beschäftigt.

Wichtig ist, dass alle Gruppen vertreten werden. Das bedeutet beispielsweise, auch heterosexuelle Männer und Frauen einzubeziehen. Ansonsten könnte sich das Bemühen nach Gleichberechtigung schnell wieder in Ungleichbehandlung wandeln. Außerdem sollten Mitglieder des Rates eine Kompensation für ihre Arbeit bekommen, damit sie sich voll und ganz darauf konzentrieren können - und nicht nur viermal im Jahr.

An sich ist die Idee eines Ethik-Rates eine sehr gute. Wir brauchen neutrale Systeme, die Menschen aller Art gleichbehandeln - und Google ist eines der Unternehmen, das mit Open-Source-Frameworks wie Tensorflow ein führender Vertreter ist. Deshalb ist Googles Verantwortung besonders groß.



Anzeige
Top-Angebote
  1. (u. a. MacBook 12 m3-7Y32/8 GB/256 GB/Silber für 999€ + Versand oder kostenlose Marktabholung...
  2. (u. a. MacBook 12 m3-7Y32/8 GB/256 GB/Silber für 999€ + Versand oder kostenlose Marktabholung...
  3. 116,05€ (Bestpreis!)
  4. 849€ (Vergleichspreis über 1.000€)

plutoniumsulfat 06. Apr 2019

Je nachdem, was er später machen soll. Da könnte man ja auch eine Ethikkommission mit...

JensBröcher 05. Apr 2019

Jedes Projekt und Unternehmen was damit infiziert ist geht früher oder später unter oder...

Janquar 05. Apr 2019

Da können wir auch gleich noch hinterschieben was das eigentlich für ein "Framing" ist...

redmord 05. Apr 2019

Die letzten Jahre haben doch auch gezeigt, dass die Couleur der im Artikel empfohlenen...

torrbox 05. Apr 2019

BWL 1. Semester: Ein Unternehmen kann nur dann seiner CSR nachkommen, wenn es finanziell...


Folgen Sie uns
       


iPad OS ausprobiert

Apple hat die erste öffentliche Betaversion vom neuen iPad OS veröffentlicht. Wir haben uns das für die iPads optimierte iOS 13 im Test genauer angeschaut.

iPad OS ausprobiert Video aufrufen
Elektromobilität: Die Rohstoffe reichen, aber ...
Elektromobilität
Die Rohstoffe reichen, aber ...

Brennstoffzellenautos und Elektroautos sollen künftig die Autos mit Verbrennungsantrieb ersetzen und so den Straßenverkehr umweltfreundlicher machen. Dafür sind andere Rohstoffe nötig. Kritiker mahnen, dass es nicht genug davon gebe. Die Verfügbarkeit ist aber nur ein Aspekt.
Eine Analyse von Werner Pluta

  1. Himo C16 Xiaomi bringt E-Mofa mit zwei Sitzplätzen für rund 330 Euro
  2. ADAC-Test Hohe Zusatzkosten bei teuren Wallboxen möglich
  3. Elektroroller E-Scooter sollen in Berlin nicht mehr auf Gehwegen parken

Indiegames-Rundschau: Epische ASCII-Abenteuer und erlebnishungrige Astronauten
Indiegames-Rundschau
Epische ASCII-Abenteuer und erlebnishungrige Astronauten

In Stone Story RPG erwacht ASCII-Art zum Leben, die Astronauten in Oxygen Not Included erleben tragikomische Slapstick-Abenteuer, dazu kommen Aufbaustrategie plus Action und Sammelkartenspiele: Golem.de stellt neue Indiegames vor.
Von Rainer Sigl

  1. Indiegames-Rundschau Von Bananen und Astronauten
  2. Indiegames-Rundschau Verloren im Sonnensystem und im Mittelalter
  3. Indiegames-Rundschau Drogen, Schwerter, Roboter-Ritter

Schienenverkehr: Die Bahn hat wieder eine Vision
Schienenverkehr
Die Bahn hat wieder eine Vision

Alle halbe Stunde von einer Stadt in die andere, keine langen Umsteigezeiten zur Regionalbahn mehr: Das verspricht der Deutschlandtakt der Deutschen Bahn. Zu schön, um wahr zu werden?
Eine Analyse von Caspar Schwietering

  1. DB Navigator Deutsche Bahn lädt iOS-Nutzer in Betaphase ein
  2. One Fiber EWE will Bahn mit bundesweitem Glasfasernetz ausstatten
  3. VVS S-Bahn-Netz der Region Stuttgart bietet vollständig WLAN

    •  /