• IT-Karriere:
  • Services:

Wissenschaft: Google greift in Forschungsarbeiten seiner KI-Teams ein

Bei einigen Arbeiten zu "sensiblen Themen" hat Google seine eigenen Forschungsteams laut einem Medienbericht zu einem positiven Ton gedrängt.

Artikel veröffentlicht am ,
Google greift offenbar direkt in die Arbeit seiner KI-Teams ein.
Google greift offenbar direkt in die Arbeit seiner KI-Teams ein. (Bild: Drew Angerer/Getty Images)

Eigentlich sollten Forschungsarbeiten unabhängig von ihren Auftraggebern entstehen und die Ergebnisse auch ohne Eingriffe veröffentlicht werden. Der IT-Konzern Google hat in diesem Jahr aber eine enge Kontrolle über Arbeiten zu sensiblen Themen umgesetzt, wie die Nachrichtenagentur Reuters berichtet. In mindestens drei Fällen hat das Unternehmen dem Bericht zufolge außerdem verlangt, dass die eigene Technologie nicht negativ dargestellt wird.

Stellenmarkt
  1. über duerenhoff GmbH, Marburg
  2. HABA Group B.V. & Co. KG, Bad Rodach

Für den Bericht beruft sich Reuters auf interne Kommunikation, die die Agentur einsehen konnte, sowie auf Interviews der betroffenen Forscher. Umgesetzt wird die Einflussnahme offenbar über explizit formulierte interne Regelungen, die den Forschungsteams vorschreibt, die PR-, Policy- und Rechts-Teams vor einer Veröffentlichung zu kontaktieren. Das gilt dem Bericht zufolge für Themen wie "Gesichts- und Sentimentanalyse und Kategorisierung von Race, Geschlecht oder politischer Zugehörigkeit", wie es in dem Bericht heißt.

Dabei handelt es sich um Themen im Bereich KI und maschinelles Lernen, die in der Vergangenheit immer wieder durch die Diskriminierung unterrepräsentierter Personengruppen aufgefallen sind, wie etwa Schwarze oder auch Frauen. Offenbar wollten die Verantwortlichen bei Google verhindern, dass das Unternehmen hier ebenfalls in ein schlechtes Licht gesetzt wird. Entsprechende Hinweise sollten in Arbeiten entfernt werden. Das wurde etwa in mindestens einem Fall für Youtube verlangt. Laut Reuters glaubt Margaret Mitchell, Co-Lead von Googles Ethical AI Team, dass das Unternehmen sich in "entscheidende Studien über potenzielle technologische Schäden" einmischt.

Erst vor wenigen Wochen ist der interne Streit um die KI-Forscherin Timnit Gebru bei Google eskaliert und die Forscherin hat Google verlassen. Gebru erforschte dort unter anderem, wie Vorurteile der realen Welt in Machine-Learning-Modellen reproduziert werden. Google habe Gebru dazu aufgefordert, die Arbeit zurückzuziehen und nicht öffentlich vorzustellen oder sämtliche Google-Autoren von der Arbeit zu entfernen, heißt es in Medienberichten. Der aktuelle Bericht von Reuters bestätigt, dass dies offenbar kein Einzelfall war. Nach dem Weggang Gebrus hat das verbliebene Team Forderungen an Google gestellt.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Hardware-Angebote
  1. ab 2.399€

Auspuffanlage 27. Dez 2020 / Themenstart

Du hast ihn doch zitiert, also wird er diesen Vergleich gebracht haben. Welchen...

mnementh 25. Dez 2020 / Themenstart

Prinzipiell auch nicht an Artgrenzen. Oder sind Hunde "gut" und Katzen "böse"? Ich...

Horcrux7 25. Dez 2020 / Themenstart

hier wird ja einiges vermengt. Ein Unternehmen hat sehr wohl das Recht Einfluss auf die...

t_e_e_k 25. Dez 2020 / Themenstart

Es wird ja nicht verhindert, das die wahren Ergebnisse veröffentlicht werden. Aber das...

Kommentieren


Folgen Sie uns
       


Linux-Smartphone Pinephone im Test

Das Pinephone ist das erste echte Linux-Smartphone seit rund 5 Jahren und dazu noch von einer Community erstellt. Das ambitionierte Projekt scheitert letztlich aber an der Realität.

Linux-Smartphone Pinephone im Test Video aufrufen
Donald Trump: Das große Unbehagen nach der Twitter-Sperre
Donald Trump
Das große Unbehagen nach der Twitter-Sperre

Die IT-Konzerne gehen wie in einer konzertierten Aktion gegen Donald Trump und dessen Anhänger vor. Ist das vertretbar oder ein gefährlicher Präzedenzfall?
Eine Analyse von Friedhelm Greis

  1. Reaktion auf Kapitol-Sturm Youtube sperrt Trump-Kanal für mindestens eine Woche
  2. US-Wahlen Facebook erwägt dauerhafte Sperre Trumps
  3. Social Media Amazon schaltet Parler die Server ab

Boeing 737 Max: Neustart mit Hindernissen
Boeing 737 Max
Neustart mit Hindernissen

Die Boeing 737 ist nach dem Flugzeugabsturz in Indonesien wieder in den Schlagzeilen. Die Version Max darf seit Dezember wieder fliegen - doch Kritiker halten die Verbesserungen für unzureichend.
Ein Bericht von Friedrich List

  1. Flugzeug Boeing erhält den letzten Auftrag für den Bau der 747
  2. Boeing 737 Max Boeing-Strafverfahren gegen hohe Geldstrafe eingestellt
  3. Zunum Luftfahrt-Startup verklagt Boeing

Westküste 100: Wie die Energiewende an der Küste aussehen soll
Westküste 100
Wie die Energiewende an der Küste aussehen soll

An der Nordseeküste stehen die Windräder auch bei einer frischen Brise oft still. Besser ist, mit dem Strom Wasserstoff zu erzeugen. Das Reallabor Westküste 100 testet das.
Ein Bericht von Werner Pluta

  1. 450 MHz Energiewirtschaft gewinnt Streit um Funkfrequenzen
  2. Energiewende Statkraft baut Schwungradspeicher in Schottland

    •  /