Wissenschaft: Google greift in Forschungsarbeiten seiner KI-Teams ein
Eigentlich sollten Forschungsarbeiten unabhängig von ihren Auftraggebern entstehen und die Ergebnisse auch ohne Eingriffe veröffentlicht werden. Der IT-Konzern Google hat in diesem Jahr aber eine enge Kontrolle über Arbeiten zu sensiblen Themen umgesetzt, wie die Nachrichtenagentur Reuters berichtet(öffnet im neuen Fenster) . In mindestens drei Fällen hat das Unternehmen dem Bericht zufolge außerdem verlangt, dass die eigene Technologie nicht negativ dargestellt wird.
Für den Bericht beruft sich Reuters auf interne Kommunikation, die die Agentur einsehen konnte, sowie auf Interviews der betroffenen Forscher. Umgesetzt wird die Einflussnahme offenbar über explizit formulierte interne Regelungen, die den Forschungsteams vorschreibt, die PR-, Policy- und Rechts-Teams vor einer Veröffentlichung zu kontaktieren. Das gilt dem Bericht zufolge für Themen wie "Gesichts- und Sentimentanalyse und Kategorisierung von Race(öffnet im neuen Fenster) , Geschlecht oder politischer Zugehörigkeit" , wie es in dem Bericht heißt.
Dabei handelt es sich um Themen im Bereich KI und maschinelles Lernen, die in der Vergangenheit immer wieder durch die Diskriminierung unterrepräsentierter Personengruppen aufgefallen sind, wie etwa Schwarze oder auch Frauen . Offenbar wollten die Verantwortlichen bei Google verhindern, dass das Unternehmen hier ebenfalls in ein schlechtes Licht gesetzt wird. Entsprechende Hinweise sollten in Arbeiten entfernt werden. Das wurde etwa in mindestens einem Fall für Youtube verlangt. Laut Reuters glaubt Margaret Mitchell, Co-Lead von Googles Ethical AI Team, dass das Unternehmen sich in "entscheidende Studien über potenzielle technologische Schäden" einmischt.
Erst vor wenigen Wochen ist der interne Streit um die KI-Forscherin Timnit Gebru bei Google eskaliert und die Forscherin hat Google verlassen. Gebru erforschte dort unter anderem, wie Vorurteile der realen Welt in Machine-Learning-Modellen reproduziert werden. Google habe Gebru dazu aufgefordert, die Arbeit zurückzuziehen und nicht öffentlich vorzustellen oder sämtliche Google-Autoren von der Arbeit zu entfernen, heißt es in Medienberichten. Der aktuelle Bericht von Reuters bestätigt, dass dies offenbar kein Einzelfall war. Nach dem Weggang Gebrus hat das verbliebene Team Forderungen an Google gestellt .