• IT-Karriere:
  • Services:

Künstliche Intelligenz: EU erwägt Verbot von Gesichtserkennung

Die EU-Kommission könnte der Bundesregierung einen Strich durch die Rechnung machen. Zumindest vorübergehend könnte der Einsatz automatisierter Systeme zur Gesichtserkennung verboten werden.

Artikel veröffentlicht am ,
Automatisierte Gesichtserkennung bei einem Testprojekt am Berliner Bahnhof Südkreuz
Automatisierte Gesichtserkennung bei einem Testprojekt am Berliner Bahnhof Südkreuz (Bild: Friedhelm Greis/Golem.de)

Die EU-Kommission erwägt ein mehrjähriges Moratorium für den Einsatz automatisierter Gesichtserkennungssysteme in der Öffentlichkeit. Dies geht aus Vorschlägen für ein Weißbuch der EU-Kommission zum künftigen Einsatz Künstlicher Intelligenz (KI) in Europa hervor. Damit würde sich Brüssel gegen Pläne der Bundesregierung stellen, die Medienberichten zufolge Gesichtserkennungssysteme an 135 deutschen Bahnhöfen und 14 Verkehrsflughäfen einführen möchte. Gegen die Pläne von Bundesinnenminister Horst Seehofer (CSU) gibt es auch Widerstand aus mehreren zivilgesellschaftlichen Organisationen wie dem Chaos Computer Club (CCC) und der Digitalen Gesellschaft.

Stellenmarkt
  1. Schwarz Dienstleistung KG, Raum Neckarsulm
  2. BÄKO München Altbayern und Schwaben eG, Taufkirchen

Schon im vergangenen August hatte die Financial Times berichtet, dass die neue EU-Kommission unter Ursula von der Leyen den "willkürlichen Einsatz" von Gesichtserkennungssystemen einschränken wolle. Auch in dem 18-seitigen Papier (PDF) wird nun auf die Gefahren von KI-Systemen hingewiesen. So könnten diese genutzt werden, um Menschen zu identifizieren, die anonym bleiben wollten. Ebenso könne die Technik für die Massenüberwachung der Bevölkerung durch staatliche Behörden genutzt werden, heißt es auf Seite 9.

DSGVO schränkt KI-Systeme ein

In den Vorschlägen für eine mögliche Regulierung von KI-Systemen erwägt die EU-Kommission daher besondere Vorgaben für den Einsatz KI-basierter Gesichtserkennung. Für diese solle es besondere Regelungen geben, unabhängig davon, ob sie von privaten oder staatlichen Akteuren eingesetzt werde. Die Regelungen sollten die Vorgaben der EU-Datenschutzgrundverordnung (DSGVO) ergänzen.

Denn die DSGVO gibt den EU-Bürgern in Artikel 22 das Recht, "nicht einer ausschließlich auf einer automatisierten Verarbeitung - einschließlich Profiling - beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt". Daher müssten die Bürger über den Einsatz von KI-Systemen in solchen Situationen informiert werden und diesem zustimmen.

Die künftige Regulierung könne daher noch weitergehen und einen zeitweiligen Bann dieser KI-Systeme enthalten. Die Autoren des Papiers kommen auf Seite 15 zu dem Schluss: "Das würde bedeuten, dass der Einsatz von Gesichtserkennungstechnik durch staatliche oder private Akteure in der Öffentlichkeit für eine bestimmte Zeitdauer (z.B. 3 bis 5 Jahre) verboten wird." Während dieses Moratoriums solle eine solide Methodik sowie ein mögliches Risikomanagement ermittelt und entwickelt werden, um die Auswirkungen dieser Technik einzuschätzen. Damit sollten die Rechte der EU-Bürger geschützt werden, vor allem vor einem möglichen Missbrauch der Technik.

Ausnahmen von diesem Verbot könnten hingegen für Forschung und Entwicklung sowie für "Sicherheitszwecke" vorgesehen werden, wobei Letzteres die Zustimmung eines Richters voraussetze. Das Papier räumt ein, dass ein solcher Bann Entwicklung und Anwendung der Technik wohl hemmen würde. Daher ist die EU-Kommission der Auffassung, sich zum gegenwärtigen Zeitpunkt auf die volle Umsetzung der entsprechenden DSGVO-Vorgaben zu konzentrieren.

Gefahren bei autonomen Autos

Die EU-Kommission warnt darüber hinaus vor möglichen Gefahren durch KI-Systeme in anderen Bereichen, beispielsweise bei selbstfahrenden Autos. So verweist das Papier auf den tödlichen Unfall mit einem selbstfahrenden Uber-Testauto in den USA, bei dem eine Fußgängerin ums Leben gekommen war. In diesem Fall hatten die Untersuchungen ergeben, dass die Fußgängerin, die ihr Fahrrad nachts über eine mehrspurige Straße geschoben hatte, von der Fahrzeug-Software nicht richtig erkannt worden war. Auch wenn bestimmte Risiken nicht auf Produkte beschränkt seien, die auf KI basierten, könne deren Einsatz solche Sicherheitsrisiken vergrößern oder verschlimmern, heißt es in dem Papier.

Nach Angaben von Euractiv soll das vollständige Weißbuch Ende Februar vorgestellt werden. Eine entsprechende Gesetzgebung auf Basis des Papiers könnte anschließend angestoßen werden. Ein Moratorium für automatisierte Gesichtserkennung müsste jedoch verhältnismäßig zügig beschlossen und umgesetzt werden, damit die Entwicklung nicht von der Realität in den Mitgliedstaaten wie Deutschland überholt wird.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Spiele-Angebote
  1. 12,49€
  2. (-14%) 42,99€
  3. (-43%) 22,99€
  4. 3,99€

MFGSparka 21. Jan 2020 / Themenstart

Danke. Besser kann man es nicht zusammenfassen. +1

wurstdings 20. Jan 2020 / Themenstart

Ich weiß ja nicht wie lange du schon die Nachrichten in Deutschland verfolgst, aber so...

MrAndersenson 20. Jan 2020 / Themenstart

Tja, für Europa gibts noch Hoffnung - bei Tuskland sind einige Züge leider schon lange...

divStar 20. Jan 2020 / Themenstart

Oder wird hier Augenwischerei betrieben, indem es offiziell verboten wird, Regierungen...

Megusta 20. Jan 2020 / Themenstart

so ist es, wenn Trump sagt, dass es die Nationale Sicherheit gefährdet, dann wird der...

Kommentieren


Folgen Sie uns
       


Nubia Z20 - Test

Das Nubia Z20 hat sowohl auf der Vorderseite als auch auf der Rückseite einen Bildschirm. Dadurch ergeben sich neue Möglichkeiten der Benutzung, wie sich Golem.de im Test angeschaut hat.

Nubia Z20 - Test Video aufrufen
Galaxy Z Flip im Hands-on: Endlich klappt es bei Samsung
Galaxy Z Flip im Hands-on
Endlich klappt es bei Samsung

Beim zweiten Versuch hat Samsung aus seinen Fehlern gelernt: Das Smartphone Galaxy Z Flip mit faltbarem Display ist alltagstauglicher und stabiler als der Vorgänger. Motorolas Razr kann da nicht mithalten.
Ein Hands on von Tobias Költzsch

  1. Faltbares Smartphone Schutzfasern des Galaxy Z Flip möglicherweise wenig wirksam
  2. Isocell Bright HM1 Samsung verwendet neuen 108-MP-Sensor im Galaxy S20 Ultra
  3. Smartphones Samsung schummelt bei Teleobjektiven des Galaxy S20 und S20+

Geforce Now im Test: Nvidia nutzt einzigartige CPU und GPU
Geforce Now im Test
Nvidia nutzt einzigartige CPU und GPU

Wer mit Nvidias Geforce Now spielt, bekommt laut Performance Overlay eine RTX 2060c oder RTX 2080c, tatsächlich aber werden eine Tesla RTX T10 als Grafikkarte und ein Intel CC150 als Prozessor verwendet. Die Performance ist auf die jeweiligen Spiele abgestimmt, vor allem mit Raytracing.
Ein Test von Marc Sauter

  1. Cloud Gaming Activision Blizzard zieht Spiele von Geforce Now zurück
  2. Nvidia-Spiele-Streaming Geforce Now kostet 5,49 Euro pro Monat
  3. Geforce Now Nvidias Cloud-Gaming-Dienst kommt noch 2019 für Android

Leistungsschutzrecht: Drei Wörter sollen ...
Leistungsschutzrecht
Drei Wörter sollen ...

Der Vorschlag der Bundesregierung für das neue Leistungsschutzrecht stößt auf Widerstand bei den Verlegerverbänden. Überschriften mit mehr als drei Wörtern und Vorschaubilder sollen lizenzpfichtig sein. Dabei wenden die Verlage einen sehr auffälligen Argumentationstrick an.
Eine Analyse von Friedhelm Greis

  1. Leistungsschutzrecht Memes sollen nur noch 128 mal 128 Pixel groß sein
  2. Leistungsschutzrecht Französische Verlage reichen Beschwerde gegen Google ein
  3. Leistungsschutzrecht Französische Medien beschweren sich über Google

    •  /