Twitter: Bug Bounties für diskriminierende KI

Twitter hatte Vorurteile in seinem eigenen Bildzuschnitt bestätigt. Nun sollen auch andere nach Diskriminierung in KI-Modellen suchen.

Artikel veröffentlicht am ,
Twitter will eine Community aufbauen, die Vorurteile in KI-Algorithmen findet.
Twitter will eine Community aufbauen, die Vorurteile in KI-Algorithmen findet. (Bild: Josh Edelson/AFP via Getty Images)

Als Teil des sogenannten KI-Village auf der diesjährigen Sicherheitskonferenz Defcon startet der Social-Media-Betreiber Twitter nun ein Bug-Bounty-Programm, das dazu dienen soll, Vorurteile und Diskriminierung in Algorithmen aufzudecken. Laut Angaben von Twitter handelt es sich dabei um das erste Programm dieser Art, welches das Auffinden derartiger Probleme mit einem Preisgeld honoriert.

Stellenmarkt
  1. SAP HCM Senior Berater (m/w/x)
    über duerenhoff GmbH, Haßfurt
  2. Security Manager Analyse und Konzeption (w/m/d)
    EnBW Energie Baden-Württemberg AG, Karlsruhe
Detailsuche

Zu der Idee des Bounty-Programms heißt es: "Wir sind davon inspiriert, wie die Forscher- und Hacker-Community dem Sicherheitsbereich geholfen hat, Best Practices für die Identifizierung und Minderung von Schwachstellen zu entwickeln, um die Öffentlichkeit zu schützen. Wir möchten eine ähnliche Community aufbauen, die sich auf die KI-Ethik konzentriert, um uns dabei zu helfen, ein breiteres Spektrum von Problemen zu identifizieren, als wir es alleine könnten. Mit dieser Herausforderung wollen wir bei Twitter und in der Branche einen Präzedenzfall für die proaktive und kollektive Identifizierung von algorithmischen Schäden schaffen."

Twitter-Nutzer hatten im vergangenen Herbst zahlreiche Testbilder veröffentlicht, wobei sich zeigte, dass die Bildauswahl offenbar Gesichter weißer Menschen bevorzugt. Der von Twitter genutzte Machine-Learning-Algorithmus für die Bildauswahl steht damit in einer Reihe weiterer ähnlicher Fehler und Probleme, die in der Vergangenheit immer wieder als rassistisch kritisiert wurden.

Tolle Technik-Deals und viele weitere Schnäppchen

Nach Kritik an dem Algorithmus und weiteren Experimenten mit dem automatischen Bildzuschnitt in seinem Dienst hat Twitter den zugrundeliegenden Machine-Learning-Algorithmus daraufhin untersucht und kam zu dem Ergebnis, dass der Algorithmus vorurteilsbehaftet arbeitet. Dazu heißt es nun: "Wir möchten bei dieser Arbeit noch einen Schritt weitergehen, indem wir die Community einladen und Anreize dafür schaffen, potenzielle Schäden dieses Algorithmus zu identifizieren, die über das hinausgehen, was wir selbst identifiziert haben".

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


bionade24 03. Aug 2021 / Themenstart

Kann ich nur voll & ganz unterschreiben.

JackyChun 02. Aug 2021 / Themenstart

Die Entwicklung eines Algorithmus ist aber zuerst einmal ein Bauwerk aus Gedanken und...

gan 02. Aug 2021 / Themenstart

Es ist nicht unerheblich, denn die KI hat ein Eigenleben. Natürlich schließt sie sich...

Tubes 02. Aug 2021 / Themenstart

Aber egal, wie Gödel ja mathematisch bewiesen ha, kann die Logik (wie jedes geschlossene...

Kommentieren



Aktuell auf der Startseite von Golem.de
Venturi-Tunnel
Elektro-Motorrad mit Riesenloch auf der Teststrecke

White Motorcycle Concepts testet sein Elektromotorrad WMC250EV, bei dem der Fahrer auf einem riesigen Tunnel sitzt. Später soll es 400 km/h erreichen.

Venturi-Tunnel: Elektro-Motorrad mit Riesenloch auf der Teststrecke
Artikel
  1. Elektroauto: Cadillac Lyriq nach 19 Minuten weg
    Elektroauto
    Cadillac Lyriq nach 19 Minuten weg

    Einen der ersten Cadillac Lyriq zu reservieren, glich mehr einer Lotterie als einem Autokauf. In wenigen Minuten waren alle Luxus-Elektroautos vergriffen.

  2. Autos, Scooter und Fahrräder: Berlin reguliert Sharing-Mobilitätsangebote
    Autos, Scooter und Fahrräder
    Berlin reguliert Sharing-Mobilitätsangebote

    Die Nutzung des öffentlichen Raums durch Autos, Scooter und Fahrräder von Sharing-Unternehmen wird in Berlin reguliert.

  3. Abonnenten verunsichert: Apple hat Hörbücher aus Apple Music entfernt
    Abonnenten verunsichert
    Apple hat Hörbücher aus Apple Music entfernt

    Wer mit einem Musikstreamingabo Hörbücher hören will, muss von Apple Music zu Deezer, Spotify oder einem anderen Anbieter wechseln.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Nur noch heute: MM-Club-Tage (u. a. SanDisk Ultra 3D 2 TB 142,15€) • Corsair Vengeance RGB PRO 16-GB-Kit DDR4-3200 71,39€ • Corsair RM750x 750 W 105,89€ • WD Elements Desktop 12 TB 211,65€ • Alternate (u. a. Creative SB Z SE 71,98€) • ASUS ROG Crosshair VIII Hero WiFi 269,99€ [Werbung]
    •  /