• IT-Karriere:
  • Services:

Wissenschaft: Google greift in Forschungsarbeiten seiner KI-Teams ein

Bei einigen Arbeiten zu "sensiblen Themen" hat Google seine eigenen Forschungsteams laut einem Medienbericht zu einem positiven Ton gedrängt.

Artikel veröffentlicht am ,
Google greift offenbar direkt in die Arbeit seiner KI-Teams ein.
Google greift offenbar direkt in die Arbeit seiner KI-Teams ein. (Bild: Drew Angerer/Getty Images)

Eigentlich sollten Forschungsarbeiten unabhängig von ihren Auftraggebern entstehen und die Ergebnisse auch ohne Eingriffe veröffentlicht werden. Der IT-Konzern Google hat in diesem Jahr aber eine enge Kontrolle über Arbeiten zu sensiblen Themen umgesetzt, wie die Nachrichtenagentur Reuters berichtet. In mindestens drei Fällen hat das Unternehmen dem Bericht zufolge außerdem verlangt, dass die eigene Technologie nicht negativ dargestellt wird.

Stellenmarkt
  1. Helios IT Service GmbH, Berlin-Buch
  2. InterSearch Personalberatung GmbH & Co. KG, Hamburg

Für den Bericht beruft sich Reuters auf interne Kommunikation, die die Agentur einsehen konnte, sowie auf Interviews der betroffenen Forscher. Umgesetzt wird die Einflussnahme offenbar über explizit formulierte interne Regelungen, die den Forschungsteams vorschreibt, die PR-, Policy- und Rechts-Teams vor einer Veröffentlichung zu kontaktieren. Das gilt dem Bericht zufolge für Themen wie "Gesichts- und Sentimentanalyse und Kategorisierung von Race, Geschlecht oder politischer Zugehörigkeit", wie es in dem Bericht heißt.

Dabei handelt es sich um Themen im Bereich KI und maschinelles Lernen, die in der Vergangenheit immer wieder durch die Diskriminierung unterrepräsentierter Personengruppen aufgefallen sind, wie etwa Schwarze oder auch Frauen. Offenbar wollten die Verantwortlichen bei Google verhindern, dass das Unternehmen hier ebenfalls in ein schlechtes Licht gesetzt wird. Entsprechende Hinweise sollten in Arbeiten entfernt werden. Das wurde etwa in mindestens einem Fall für Youtube verlangt. Laut Reuters glaubt Margaret Mitchell, Co-Lead von Googles Ethical AI Team, dass das Unternehmen sich in "entscheidende Studien über potenzielle technologische Schäden" einmischt.

Erst vor wenigen Wochen ist der interne Streit um die KI-Forscherin Timnit Gebru bei Google eskaliert und die Forscherin hat Google verlassen. Gebru erforschte dort unter anderem, wie Vorurteile der realen Welt in Machine-Learning-Modellen reproduziert werden. Google habe Gebru dazu aufgefordert, die Arbeit zurückzuziehen und nicht öffentlich vorzustellen oder sämtliche Google-Autoren von der Arbeit zu entfernen, heißt es in Medienberichten. Der aktuelle Bericht von Reuters bestätigt, dass dies offenbar kein Einzelfall war. Nach dem Weggang Gebrus hat das verbliebene Team Forderungen an Google gestellt.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Top-Angebote
  1. 85€ (Bestpreis mit MediaMarkt/Saturn. Vergleichspreis 99,99€)
  2. (Hardware, PC-Zubehör und mehr für kurze Zeit reduziert)
  3. 36,48€ (Vergleichspreis ca. 56€)
  4. (u. a. Planet Zoo - Deluxe Edition für 19,99€, Hitman 3 - Epic Games Store Key für 39,99€ und...

Auspuffanlage 27. Dez 2020

Du hast ihn doch zitiert, also wird er diesen Vergleich gebracht haben. Welchen...

mnementh 25. Dez 2020

Prinzipiell auch nicht an Artgrenzen. Oder sind Hunde "gut" und Katzen "böse"? Ich...

Horcrux7 25. Dez 2020

hier wird ja einiges vermengt. Ein Unternehmen hat sehr wohl das Recht Einfluss auf die...

t_e_e_k 25. Dez 2020

Es wird ja nicht verhindert, das die wahren Ergebnisse veröffentlicht werden. Aber das...


Folgen Sie uns
       


Xbox Series X und S - Fazit

Im Video zum Test der Xbox Series X und S zeigt Golem.de die Hardware und das Dashboard der Konsolen von Microsoft.

Xbox Series X und S - Fazit Video aufrufen
    •  /