Schwache Forderungen bei Gesichtserkennung

Wenn der Insasse feststellt, dass das autonome Auto überfordert ist, sollte das Fahrzeug schon selbst einen sogenannten risikominimierten Zustand herbeigeführt haben. Sonst ist es womöglich schon zu einem Unfall gekommen. Wenn das Fahrzeug aber diesen risikominimierten Zustand nicht mehr selbst herstellen kann, nützt auch eine "Stopptaste" wenig. Nicht erfüllt im Regelungsvorschlag zum Staupiloten wird zudem die Forderung des Weißbuchs: "Abgesehen davon sollten Bürgerinnen und Bürger klar und deutlich darauf hingewiesen werden, wenn sie mit einem KI-System interagieren und nicht mit einem Menschen." Es ist jedoch keine Hinweisleuchte vorgesehen, die anderen Autofahrer anzeigt, wenn ein Auto im Selbstfahrmodus unterwegs ist.

Stellenmarkt
  1. Digitalisierungsexperte (Smart Factory) und Lean Manager (m/w/d)
    Knauf Gips KG, Iphofen bei Würzburg
  2. Anwendungsentwicklerin / Anwendungsentwickler (m/w/d)
    Information und Technik Nordrhein-Westfalen (IT.NRW), Düsseldorf
Detailsuche

Eher schwache Forderungen werden im Weißbuch hingegen bei der automatischen Gesichtserkennung erhoben, der sogenannten "biometrischen Fernidentifikation". Auch diese Technik gilt als "Anwendung mit hohem Risiko". Allerdings konnte sich die Kommission am Ende doch nicht dazu durchringen, ein EU-weites Moratorium für deren Einsatz zu verhängen. Stattdessen wird darauf verwiesen, dass die Verarbeitung biometrischer Daten zum Zwecke der eindeutigen Identifizierung natürlicher Personen "außer unter bestimmten Bedingungen" grundsätzlich verboten sei.

Am Ende muss wohl der EuGH entscheiden

Dabei verweist das Weißbuch auf Artikel 9 der EU-Datenschutz-Grundverordnung (DSGVO), wonach die Verarbeitung solcher Daten prinzipiell untersagt ist. Möglich sei der Einsatz von automatisierter Gesichtserkennung nur, wenn er "hinreichend begründet und verhältnismäßig ist und geeignete Garantien gewährleistet sind". Vermutlich wird - wie im Falle der Vorratsdatenspeicherung - der Europäische Gerichtshof (EuGH) entscheiden müssen, ob und wie eine solche Technik im konkreten Fall eingesetzt werden darf.

Sollte dabei wie beim autonomen Fahren die Frage eine Rolle spielen, ob die KI-Systeme robust und verlässlich funktionieren? Und ob es eine menschliche Aufsicht gibt, die mögliche Fehler noch einmal überprüft? Im Grunde nicht, wenn es nach den deutschen Datenschutzbehörden geht.

Grundsatzentscheidung zu Biometrie

Golem Akademie
  1. Jira für Systemadministratoren: virtueller Zwei-Tage-Workshop
    9.–10. Dezember 2021, virtuell
  2. SAMBA Datei- und Domänendienste einrichten: virtueller Drei-Tage-Workshop
    7.–9. März 2022, Virtuell
Weitere IT-Trainings

"Der Einsatz von Videokameras mit biometrischer Gesichtserkennung kann die Freiheit, sich in der Öffentlichkeit anonym zu bewegen, gänzlich zerstören. Es ist kaum möglich, sich solcher Überwachung zu entziehen oder diese gar zu kontrollieren", heißt es in einem Papier der Deutschen Datenschutzkonferenz vom März 2017 (PDF).

Wenn schon die automatische Erfassung von Kennzeichen nicht zulässig sei, warum sollte das dann bei menschlichen Gesichtern anders sein, fragten die Datenschutzbeauftragten von Bund und Ländern. Auch für Liggesmeyer ist das eine Grundsatzentscheidung: "Da gibt es unterschiedliche Geisteshaltungen. In Europa ist man sehr zurückhaltend, was das betrifft. In den USA befindet man sich auf einem mittleren Niveau und in China traut sich gar keiner, die Frage zu stellen." Für Liggesmeyer spielt es in der Debatte eine nachrangige Rolle, ob die Systeme durch die Auswahl der Lerndaten dabei bestimmte Nutzer diskriminieren oder nicht.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Braucht es eigene EU-Regulierung?Nicht Unmögliches von KI verlangen 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6. 5
  7.  


Kaiser Ming 13. Mär 2020

auch wenn sie Anfangs gut gemeint ist führt zu Entwicklungshemmnissen und das wiederum...

Kaiser Ming 13. Mär 2020

Genau das war aber hier nicht die Frage

PerilOS 10. Mär 2020

...am Ende des Tages geht es um die Qualifizierung von Daten. Wenn die Daten schon...

wanne 10. Mär 2020

Die Frage ist halt was "stimmen" ist. Das erste Problem an Diskriminierung ist, dass...

Auspuffanlage 10. Mär 2020

Was?



Aktuell auf der Startseite von Golem.de
Wemax Go Pro
Mini-Projektor für Reisen strahlt 120-Zoll-Bild an die Wand

Der Wemax Go Pro setzt auf Lasertechnik von Xiaomi. Der Beamer ist klein und kompakt, soll aber ein großes Bild an die Wand strahlen können.

Wemax Go Pro: Mini-Projektor für Reisen strahlt 120-Zoll-Bild an die Wand
Artikel
  1. Snapdragon 8cx Gen 3: Geleaktes Qualcomm-SoC erreicht das Niveau von AMD und Intel
    Snapdragon 8cx Gen 3
    Geleaktes Qualcomm-SoC erreicht das Niveau von AMD und Intel

    In Geekbench wurde der Qualcomm Snapdragon 8cx Gen 3 gesichtet. Er kann sich mit Intel- und AMD-CPUs messen, mit Apples M1 aber wohl nicht.

  2. Air4: Renault 4 als Flugauto neu interpretiert
    Air4
    Renault 4 als Flugauto neu interpretiert

    Der Air4 ist Renaults Idee, wie ein fliegender Renault 4 aussehen könnte. Mit der Drohne wird das 60jährige Jubiläum des Kultautos gefeiert.

  3. MS Satoshi: Die abstruse Geschichte des Bitcoin-Kreuzfahrtschiffs
    MS Satoshi
    Die abstruse Geschichte des Bitcoin-Kreuzfahrtschiffs

    Kryptogeld-Enthusiasten kauften ein Kreuzfahrtschiff und wollten es zum schwimmenden Freiheitsparadies machen. Allerdings scheiterten sie an jeder einzelnen Stelle.
    Von Elke Wittich

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Black Friday Wochenende • LG UltraGear 34GP950G-B 999€ • SanDisk Ultra 3D 500 GB M.2 44€ • Boxsets (u. a. Game of Thrones Blu-ray 79,97€) • Samsung Galaxy S21 128GB 777€ • Premium-Laptops (u. a. Lenovo Ideapad 5 Pro 16" 829€) • MS Surface Pro7+ 888€ • Astro Gaming Headsets [Werbung]
    •  /