Twitter: Bug Bounties für diskriminierende KI
Als Teil des sogenannten KI-Village auf der diesjährigen Sicherheitskonferenz Defcon startet der Social-Media-Betreiber Twitter nun ein Bug-Bounty-Programm(öffnet im neuen Fenster), das dazu dienen soll, Vorurteile und Diskriminierung in Algorithmen aufzudecken. Laut Angaben von Twitter handelt es sich dabei um das erste Programm dieser Art, welches das Auffinden derartiger Probleme mit einem Preisgeld honoriert.
Zu der Idee des Bounty-Programms heißt es: "Wir sind davon inspiriert, wie die Forscher- und Hacker-Community dem Sicherheitsbereich geholfen hat, Best Practices für die Identifizierung und Minderung von Schwachstellen zu entwickeln, um die Öffentlichkeit zu schützen. Wir möchten eine ähnliche Community aufbauen, die sich auf die KI-Ethik konzentriert, um uns dabei zu helfen, ein breiteres Spektrum von Problemen zu identifizieren, als wir es alleine könnten. Mit dieser Herausforderung wollen wir bei Twitter und in der Branche einen Präzedenzfall für die proaktive und kollektive Identifizierung von algorithmischen Schäden schaffen."
Twitter-Nutzer hatten im vergangenen Herbst zahlreiche Testbilder veröffentlicht, wobei sich zeigte, dass die Bildauswahl offenbar Gesichter weißer Menschen bevorzugt. Der von Twitter genutzte Machine-Learning-Algorithmus für die Bildauswahl steht damit in einer Reihe weiterer ähnlicher Fehler und Probleme, die in der Vergangenheit immer wieder als rassistisch kritisiert wurden.
Nach Kritik an dem Algorithmus und weiteren Experimenten mit dem automatischen Bildzuschnitt in seinem Dienst hat Twitter den zugrundeliegenden Machine-Learning-Algorithmus daraufhin untersucht und kam zu dem Ergebnis, dass der Algorithmus vorurteilsbehaftet arbeitet. Dazu heißt es nun: "Wir möchten bei dieser Arbeit noch einen Schritt weitergehen, indem wir die Community einladen und Anreize dafür schaffen, potenzielle Schäden dieses Algorithmus zu identifizieren, die über das hinausgehen, was wir selbst identifiziert haben".
- Anzeige Hier geht es zu den aktuellen Blitzangeboten bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.