Wissenschaft: Google greift in Forschungsarbeiten seiner KI-Teams ein

Bei einigen Arbeiten zu "sensiblen Themen" hat Google seine eigenen Forschungsteams laut einem Medienbericht zu einem positiven Ton gedrängt.

Artikel veröffentlicht am ,
Google greift offenbar direkt in die Arbeit seiner KI-Teams ein.
Google greift offenbar direkt in die Arbeit seiner KI-Teams ein. (Bild: Drew Angerer/Getty Images)

Eigentlich sollten Forschungsarbeiten unabhängig von ihren Auftraggebern entstehen und die Ergebnisse auch ohne Eingriffe veröffentlicht werden. Der IT-Konzern Google hat in diesem Jahr aber eine enge Kontrolle über Arbeiten zu sensiblen Themen umgesetzt, wie die Nachrichtenagentur Reuters berichtet. In mindestens drei Fällen hat das Unternehmen dem Bericht zufolge außerdem verlangt, dass die eigene Technologie nicht negativ dargestellt wird.

Stellenmarkt
  1. Informatiker / Informatikerin (m/w/d)
    NLQ Hildesheim, Hildesheim
  2. (Senior) Agile Coach Consultant (m/w/d)
    AUSY Technologies Germany AG, Düsseldorf, Frankfurt am Main, Hamburg, München, Nürnberg
Detailsuche

Für den Bericht beruft sich Reuters auf interne Kommunikation, die die Agentur einsehen konnte, sowie auf Interviews der betroffenen Forscher. Umgesetzt wird die Einflussnahme offenbar über explizit formulierte interne Regelungen, die den Forschungsteams vorschreibt, die PR-, Policy- und Rechts-Teams vor einer Veröffentlichung zu kontaktieren. Das gilt dem Bericht zufolge für Themen wie "Gesichts- und Sentimentanalyse und Kategorisierung von Race, Geschlecht oder politischer Zugehörigkeit", wie es in dem Bericht heißt.

Dabei handelt es sich um Themen im Bereich KI und maschinelles Lernen, die in der Vergangenheit immer wieder durch die Diskriminierung unterrepräsentierter Personengruppen aufgefallen sind, wie etwa Schwarze oder auch Frauen. Offenbar wollten die Verantwortlichen bei Google verhindern, dass das Unternehmen hier ebenfalls in ein schlechtes Licht gesetzt wird. Entsprechende Hinweise sollten in Arbeiten entfernt werden. Das wurde etwa in mindestens einem Fall für Youtube verlangt. Laut Reuters glaubt Margaret Mitchell, Co-Lead von Googles Ethical AI Team, dass das Unternehmen sich in "entscheidende Studien über potenzielle technologische Schäden" einmischt.

Erst vor wenigen Wochen ist der interne Streit um die KI-Forscherin Timnit Gebru bei Google eskaliert und die Forscherin hat Google verlassen. Gebru erforschte dort unter anderem, wie Vorurteile der realen Welt in Machine-Learning-Modellen reproduziert werden. Google habe Gebru dazu aufgefordert, die Arbeit zurückzuziehen und nicht öffentlich vorzustellen oder sämtliche Google-Autoren von der Arbeit zu entfernen, heißt es in Medienberichten. Der aktuelle Bericht von Reuters bestätigt, dass dies offenbar kein Einzelfall war. Nach dem Weggang Gebrus hat das verbliebene Team Forderungen an Google gestellt.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Auspuffanlage 27. Dez 2020

Du hast ihn doch zitiert, also wird er diesen Vergleich gebracht haben. Welchen...

mnementh 25. Dez 2020

Prinzipiell auch nicht an Artgrenzen. Oder sind Hunde "gut" und Katzen "böse"? Ich...

Horcrux7 25. Dez 2020

hier wird ja einiges vermengt. Ein Unternehmen hat sehr wohl das Recht Einfluss auf die...

t_e_e_k 25. Dez 2020

Es wird ja nicht verhindert, das die wahren Ergebnisse veröffentlicht werden. Aber das...



Aktuell auf der Startseite von Golem.de
Die große Umfrage
Das sind Deutschlands beste IT-Arbeitgeber 2023

Golem.de und Statista haben 23.000 Fachkräfte nach ihrer Arbeit gefragt. Das Ergebnis ist eine Liste der 175 besten Unternehmen für IT-Profis.

Die große Umfrage: Das sind Deutschlands beste IT-Arbeitgeber 2023
Artikel
  1. Roadmap: CD Projekt kündigt neues Cyberpunk und mehrere Witcher an
    Roadmap
    CD Projekt kündigt neues Cyberpunk und mehrere Witcher an

    Project Polaris wird eine Witcher-Saga, Orion das nächste Cyberpunk 2077 und Hadar etwas ganz Neues: CD Projekt hat seine Pläne vorgestellt.

  2. Monitoring von Container-Landschaften: Prometheus ist nicht alles
    Monitoring von Container-Landschaften
    Prometheus ist nicht alles

    Betreuer von Kubernetes und Co., die sich nicht ausreichend mit der Thematik beschäftigen, nehmen beim metrikbasierte Monitoring unwissentlich einige Nachteile in Kauf. Eventuell ist es notwendig, den üblichen Tool-Stack zu ergänzen.
    Von Valentin Höbel

  3. USB-C: Europaparlament macht Weg für einheitliche Ladekabel frei
    USB-C
    Europaparlament macht Weg für einheitliche Ladekabel frei

    In der EU gibt es künftig eine Standard-Ladebuchse für Smartphones und weitere Elektrogeräte. Die IT-Wirtschaft sieht die Einigung kritisch.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • 3 Spiele für 49€ • Saturn Gutscheinheft • Günstig wie nie: LG OLED 48" 799€, Xbox Elite Controller 2 114,99€, AOC 28" 4K UHD 144 Hz 600,89€, Corsair RGB Midi-Tower 269,90€, Sandisk microSDXC 512GB 39€ • Bis zu 15% im eBay Restore • MindStar (PowerColor RX 6700 XT 489€) [Werbung]
    •  /