Maschinelles Lernen: Gesichtserkennung im Stadion liegt zu 93 Prozent falsch

Die Waliser Polizei hat im Finale der Champions League 2017 170.000 Gäste mit Gesichtserkennung gescannt und davon mehr als 2.000 als kriminell identifiziert. Davon waren jedoch nur sieben Prozent schuldig. Das System wird auch genutzt, um das Potenzial einer kriminellen Tat in Emotionen zu erkennen.

Artikel veröffentlicht am ,
Gesichtserkennung identifiziert Kriminelle.
Gesichtserkennung identifiziert Kriminelle. (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

Beim Champions-League-Finale 2017 wurde Gesichtserkennungssoftware mit sehr geringer Genauigkeit eingesetzt. Die Software hat 170.000 Zuschauer mit in Datenbanken gespeicherten Täterprofilen verglichen. 2.470 hat der Algorithmus als Kriminelle identifiziert, wobei das auf lediglich 173 Verdächtige tatsächlich zutraf. Das berichtet der britische Fernsehsender BBC. Die Falschquote von 93 Prozent ist ein erstes Ergebnis des Feldtests, den die Waliser Polizei seit Juni 2017 durchführt.

Stellenmarkt
  1. Junior-Information Security and Compliance Manager (m/w/d)
    HÜBNER GmbH & Co. KG, Kassel
  2. Product Lead (f/m/d)
    NEXPLORE Technology GmbH, Essen, Darmstadt, München
Detailsuche

Dort wird das System zudem verteidigt. Die zuständige Polizei gibt dabei zu: "Keine Gesichtserkennung ist zu 100 Prozent genau", allerdings seien dadurch zumindest 450 Festnahmen durchgeführt worden. Wohlgemerkt sind das noch immer knapp 280 zu viel. Die Polizei sagt: "Zu den resultierenden Verurteilungen gehören sechs Jahre Gefängnis für Raub und viereinhalb Jahre Haft für Diebstahl", berichtet das britische Nachrichtenmagazin The Guardian.

Dass der Algorithmus so ungenau ist, sei die Schuld der Referenzbilder von niedriger Qualität, heißt es. Das System nutzt Datenbanken der Behörde Interpol und des Veranstalters Uefa als Grundlage - etwa 500.000 Einträge. Mittlerweile sei die Software mit 28 Prozent Erfolgsquote bereits genauer. Es scheint, als wäre das Machine-Learning-Modell noch nicht lang genug trainiert worden, denn auf anderen Veranstaltungen wurden von ihm ebenfalls viele falsche Anschuldigungen gemacht. Bei einem Rugby-Spiel wurden 42 und bei einem Boxkampf 46 Unschuldige als kriminell identifiziert.

Die Bereitschaft zur Kriminalität in Gesichtern erkennen

Ein positives Beispiel ist ein Konzert in Cardiff, bei dem sechs Beschuldigte auch tatsächlich kriminell waren. Die Gruppe Big Brother Watch kritisiert das System trotzdem. Es sei ein gefährlich ungenaues Entscheidungswerkzeug und schränke Freiheitsrechte ein, heißt es in einem Post auf Twitter.

Golem Karrierewelt
  1. Container Technologie: Docker und Kubernetes - Theorie und Praxis: virtueller Drei-Tage-Workshop
    14.-16.12.2022, virtuell
  2. Hands-on C# Programmierung: virtueller Zwei-Tage-Workshop
    06./07.02.2023, virtuell
Weitere IT-Trainings

Die Polizei scheint Gesichtserkennung aber nicht nur für das Erkennen von Tätern, sondern auch für die Identifizierung potenzieller Täter einzusetzen. "Die Technik hat außerdem dabei geholfen, verwundbare Leute in Krisenzeiten zu erkennen", heißt es in der Aussage gegenüber dem Guardian. Das Machine-Learning-System soll also anscheinend nicht nur Gesichter, sondern wohl auch Emotionen analysieren und zuordnen können. Wie erfolgreich es das tut, ist nicht klar.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Muhaha 08. Mai 2018

Deswegen schrub ich ja auch nicht "Mathematik", sondern "Statistikverständnis". Denn Du...

maxule 08. Mai 2018

Du siehst das falschrum. Wenn die KI 100% der Menschen eliminiert, dann sind 100% der...

schap23 07. Mai 2018

Ich hatte schon vor 30 Jahren Besuch von der Polizei, die alleine, weil ich einen Namen...

on(Golem.de) 07. Mai 2018

Ich denke, dass die absolute Zahl richtig ist, und BBC - genau wie ich - einfach einen...



Aktuell auf der Startseite von Golem.de
Loupedeck Live S ausprobiert
Alle Streams an Deck

Das Loupedeck Live S ist eine kleine Hardwaresteuerung für Streaming und Medien. Wir fänden mehr Cloud und weniger Kosten wünschenswert.
Ein Praxistest von Martin Wolf

Loupedeck Live S ausprobiert: Alle Streams an Deck
Artikel
  1. MK-V Founder Series: Monarch-Elektrotraktor mit autonomer Fahrfunktion
    MK-V Founder Series
    Monarch-Elektrotraktor mit autonomer Fahrfunktion

    Der Traktorhersteller Monarch hat eine Landwirtschaftsmaschine mit Elektroantrieb vorgestellt, bei der der Fahrer optional ist.

  2. Elektromobilität: Hyundai zeigt Elektrosportwagen Ioniq 5 N
    Elektromobilität
    Hyundai zeigt Elektrosportwagen Ioniq 5 N

    Hyundai hat erstmals ein Video mit dem Ioniq 5 N veröffentlicht. Das besonders sportliche Fahrzeug soll die N-Marke beleben.

  3. IT-Projektmanager: Mehr als Excel-Schubser und Flaschenhälse
    IT-Projektmanager
    Mehr als Excel-Schubser und Flaschenhälse

    Viele IT-Teams halten ihr Projektmanagement für überflüssig. Wir zeigen drei kreative Methoden, mit denen Projektmanager wirklich relevant werden.
    Ein Ratgebertext von Jakob Rufus Klimkait und Kristin Ottlinger

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5-Bundle vorbestellbar • Amazon-Geräte bis -53% • Mindstar: AMD-Ryzen-CPUs zu Bestpreisen • Alternate: Kingston FURY Beast RGB 32GB DDR5-4800 146,89€ • Advent-Tagesdeals bei MediaMarkt/Saturn: u. a. SanDisk Ultra microSDXC 512GB 39€ • Thrustmaster Ferrari GTE Wheel 87,60€ [Werbung]
    •  /