Abo
  • IT-Karriere:

KI-Ethik-Rat: Googles eigene Mitarbeiter wären eine bessere Wahl gewesen

Googles Ateac-Projekt wurde beendet. Es war von Anfang an zum Scheitern verurteilt: Warum beruft das Unternehmen offensichtlich intolerante Menschen ein? Die heftigen Proteste für Gleichberechtigung innerhalb des eigenen Teams zeigen doch, dass dort die eigentlichen Experten gefunden werden können.

Ein IMHO von veröffentlicht am
Diversität muss beachtet werden, auch bei Algorithmen.
Diversität muss beachtet werden, auch bei Algorithmen. (Bild: Pixabay.com/CC0 1.0)

Nach den Protesten gegen einige Mitglieder von Googles KI-Rat Ateac, der sich mit der Ethik und Gleichberechtigung von Machine Learning beschäftigen sollte, hat das Unternehmen laut der Nachrichtenagentur Reuters sein Projekt komplett eingestellt. Und das innerhalb nur einer Woche, nachdem das Team aus Wissenschaftlern, Ökonomen und Psychologen angekündigt wurde. Der Grund: Proteste der eigenen Mitarbeiter gegen zwei Mitglieder - ein offener Brief, den mehr als 2.000 Personen unterschrieben haben.

Stellenmarkt
  1. BNP Paribas S.A. Niederlassung Deutschland, Essen
  2. Zweckverband Bodensee-Wasserversorgung, Stuttgart

Die Anschuldigungen gegen die zwei ausgerufenen Experten sind durchaus berechtigt: Google habe mehr die Nähe zu Machtpositionen, als die Nähe zur Gleichbehandlung von Menschen mit unterschiedlicher sexueller Identifikation gesucht - ein Thema, das auch im Bereich Machine Learning beachtet werden sollte. Warum das Unternehmen ausgerechnet eine Person auswählt, die sich öffentlich gegen die lesbische, schwule, bisexuelle, Transgender- und Queer-Bevölkerung geäußert hat, ist daher absolut nicht nachvollziehbar. Das konnte von Anfang an nicht erfolgreich werden.

Google muss nicht weit schauen

Schaut Google auf seine eigene Belegschaft, wird schnell klar: Eine Wissenschaftlerin, die in ihrer Karriere an Militärprojekten gearbeitet hat, ist ebenfalls unerwünscht. Es kommt einem aber so vor, als habe das Unternehmen nicht allzu viel aus früheren Protesten wie gegen das mittlerweile eingestellte Projekt Maven gelernt. Schon damals äußerten sich Tausende Google-Mitarbeiter dagegen.

Googles offene Unternehmenskultur und die nach außen hin erscheinende Diversität von Ethnien, Lebensstilen, sexueller Ausrichtung und Geschlechtern wäre dabei doch eine perfekte Quelle, um daraus einen eigenen Ethik-Rat zu gründen. Dieser sollte sich aus Mitgliedern verschiedener Kulturen und Lebenslagen zusammensetzen. Menschen, die eigene Erfahrungen gesammelt und eventuell selbst Ungerechtigkeit oder Diskriminierung erfahren haben, wären perfekt - und solche Menschen scheint es im eigenen Unternehmen zu geben. Dazu sollten sich Informatiker im Unternehmen gesellen, die sich mit Googles Tensorflow und anderen KI-Systemen auskennen und die ethische Werte bereits im Kopf in kommende Software umsetzen können.

Ethik muss zudem unabhängig vom eigenen wirtschaftlichen Interesse betrachtet werden, weil das zu ungerechten Entscheidungen und damit intoleranten Systemen führen kann. Deshalb sind CEOs, große Anteilshaber und Vorstände nicht unbedingt eine gute Wahl. Dennoch hat Google sich genau dafür entschieden. Dabei ist es verständlich, dass das Unternehmen ausschließlich externe Experten einberufen hat. Googles Ansatz ist wohl, dass externe Berater nicht vorrangig auf die Interessen des eigenen Unternehmens achten und daher weniger leicht beeinflussbar sind.

Wie Projekte bei Amazon, Facebook, Microsoft und IBM, behandeln bisher auch einige KI-Systeme von Google Menschen aufgrund ihrer Ethnie oder ihres Geschlechtes ungleich. Bilderkennungssysteme haben es beispielsweise besonders schwer, kaukasische oder afroamerikanische Frauen auch als solche zu erkennen. Trotzdem werden sie teilweise sogar schon in Behörden eingesetzt - gefährlich!

Ethik für KI ist eine gute Idee

Wenn schon externe Experten gesucht werden, sollte Google Menschen einberufen, die sich bereits aktiv mit dem Thema beschäftigen, die dazu stehen und die ihre Karriere der Gleichbehandlung widmen. Forscherinnen wie Joy Buolamwini wären eine gute Wahl. Sie ist die Person, die mit ihren Untersuchungen bereits viele Vorurteile in KI-Systemen entdeckt hat - und sie ist sicherlich nicht die einzige, die sich damit intensiv beschäftigt.

Wichtig ist, dass alle Gruppen vertreten werden. Das bedeutet beispielsweise, auch heterosexuelle Männer und Frauen einzubeziehen. Ansonsten könnte sich das Bemühen nach Gleichberechtigung schnell wieder in Ungleichbehandlung wandeln. Außerdem sollten Mitglieder des Rates eine Kompensation für ihre Arbeit bekommen, damit sie sich voll und ganz darauf konzentrieren können - und nicht nur viermal im Jahr.

An sich ist die Idee eines Ethik-Rates eine sehr gute. Wir brauchen neutrale Systeme, die Menschen aller Art gleichbehandeln - und Google ist eines der Unternehmen, das mit Open-Source-Frameworks wie Tensorflow ein führender Vertreter ist. Deshalb ist Googles Verantwortung besonders groß.



Anzeige
Hardware-Angebote
  1. 259€ + Versand oder kostenlose Marktabholung
  2. täglich neue Deals bei Alternate.de
  3. 289€
  4. 294€

plutoniumsulfat 06. Apr 2019

Je nachdem, was er später machen soll. Da könnte man ja auch eine Ethikkommission mit...

JensBröcher 05. Apr 2019

Jedes Projekt und Unternehmen was damit infiziert ist geht früher oder später unter oder...

Janquar 05. Apr 2019

Da können wir auch gleich noch hinterschieben was das eigentlich für ein "Framing" ist...

redmord 05. Apr 2019

Die letzten Jahre haben doch auch gezeigt, dass die Couleur der im Artikel empfohlenen...

torrbox 05. Apr 2019

BWL 1. Semester: Ein Unternehmen kann nur dann seiner CSR nachkommen, wenn es finanziell...


Folgen Sie uns
       


Cherry Stream 3.0 mit großem ß ausprobiert

Alle möglichen Umlaute auf einer Tastatur: Wir haben Cherrys Europa-Tastatur ausprobiert.

Cherry Stream 3.0 mit großem ß ausprobiert Video aufrufen
Minecraft Dungeons angespielt: Fehlt nur noch ein Klötzchen-Diablo in der Tiefe
Minecraft Dungeons angespielt
Fehlt nur noch ein Klötzchen-Diablo in der Tiefe

E3 2019 Von der Steuerung bis zu den Schatzkisten: Minecraft Dungeons hat uns beim Anspielen bis auf die Klötzchengrafik verblüffend stark an Diablo erinnert - und könnte gerade deshalb teuflisch spaßig werden!

  1. Augmented Reality Minecraft Earth erlaubt Klötzchenbauen in aller Welt
  2. Microsoft Augmented-Reality-Minecraft kommt zum zehnten Jubiläum
  3. Jubiläum ohne Notch Microsoft feiert Minecraft ohne Markus Persson

Doom Eternal angespielt: Die nächste Ballerorgie von id macht uns fix und fertig
Doom Eternal angespielt
Die nächste Ballerorgie von id macht uns fix und fertig

E3 2019 Extrem schnelle Action plus taktische Entscheidungen, dazu geniale Grafik und eine düstere Atmosphäre: Doom Eternal hat gegenüber dem erstklassigen Vorgänger zumindest beim Anspielen noch deutlich zugelegt.

  1. Sigil John Romero setzt Doom fort

Ada und Spark: Mehr Sicherheit durch bessere Programmiersprachen
Ada und Spark
Mehr Sicherheit durch bessere Programmiersprachen

Viele Sicherheitslücken in Software sind auf Programmierfehler zurückzuführen. Diese Fehler lassen sich aber vermeiden - und zwar unter anderem durch die Wahl einer guten Programmiersprache. Ada und Spark gehören dazu, leider sind sie immer noch wenig bekannt.
Von Johannes Kanig

  1. Das andere How-to Deutsch lernen für Programmierer
  2. Programmiersprachen, Pakete, IDEs So steigen Entwickler in Machine Learning ein
  3. Software-Entwickler Welche Programmiersprache soll ich lernen?

    •  /