Künstliche Intelligenz: EU-Kommission will offenbar Gesichtserkennung erlauben

Die EU-Kommission will KI-Anwendungen regulieren. Einsatzmöglichkeiten wie Social Scoring sollen verboten werden.

Artikel veröffentlicht am ,
Welche Überwachungssysteme dürfen künftig an Kameras angeschlossen werden?
Welche Überwachungssysteme dürfen künftig an Kameras angeschlossen werden? (Bild: Riccardo Milani/Hans Lucas/Reuters)

Die EU-Kommission will offenbar Systeme auf Basis künstlicher Intelligenz (KI) verbieten, wenn diese zur Massenüberwachung oder zur Einstufung des Sozialverhaltens eingesetzt werden. Das berichtet der Wirtschaftsdienst Bloomberg unter Berufung auf aktuelle Regulierungsvorschläge, die in der kommenden Woche vorgestellt werden könnten.

Stellenmarkt
  1. IT Administrator (m/w/d) Netzwerkinfrastruktur
    experts, Magdeburg
  2. IT Projektleiter (m/w/d)
    Hays AG, Bonn
Detailsuche

Die umstrittene biometrische Gesichtserkennung soll demnach nicht generell verboten werden, soll aber eine besondere Genehmigung durch die Behörden erfordern. Auf Anfrage von Golem.de bestätigte eine Sprecherin lediglich, dass die Pläne am 21. April 2021 in Brüssel vorgestellt werden sollten.

Die Kommission orientiert sich bei den Plänen an einem 30-seitigen Weißbuch zur KI (PDF), das Kommissionspräsidentin Ursula von der Leyen im Februar 2020 vorgestellt hat. Darin wurden die Sektoren Verkehr, Gesundheitswesen, Energie und Teile des öffentlichen Sektors als besonders risikobehaftet eingestuft. Ist bei dem Einsatz von KI in einem solchen Bereich mit "erheblichen Risiken" zu rechnen, sieht die EU-Kommission darin eine Anwendung "mit hohem Risiko", für die ein "regulatorischer Eingriff" nötig sein könnte.

Laut Bloomberg sollen alle KI-Systeme verboten werden, die zur Manipulation des menschlichen Verhaltens dienen, Informationen über Einzelpersonen oder Gruppen zum Zwecke eines Social Scoring auswerten oder zur anlasslosen Überwachung eingesetzt werden. Ausnahmen für die öffentliche Sicherheit, wie bei der automatisierten Gesichtserkennung, soll es aber geben. Erst Mitte Februar haben fast 20 Organisationen ein Verbot von automatisierter Gesichtserkennung im öffentlichen Raum gefordert.

Keine Einschränkungen für militärische Nutzung

Golem Akademie
  1. Data Engineering mit Apache Spark: virtueller Zwei-Tage-Workshop
    25.–26. April 2022, Virtuell
  2. Informationssicherheit in der Automobilindustrie nach VDA-ISA und TISAX® mit Zertifikat: Zwei-Tage-Workshop
    22.–23. März 2022, Virtuell
Weitere IT-Trainings

Als "risikoreich" eingestufte KI-Anwendungen müssten vor dem Einsatz überprüft werden, um sicherzustellen, dass die Systeme auf nachvollziehbare Weise, unter menschlicher Aufsicht und mit objektiven Datensätzen trainiert wurden, heißt es in dem Bericht. Die Regeln würden gleichermaßen für Unternehmen mit Sitz in der EU oder im Ausland gelten. Die europäischen Mitgliedstaaten müssten Bewertungsstellen benennen, um die Systeme zu testen, zu zertifizieren und zu prüfen.

Unternehmen, die verbotene KI-Dienste entwickelten, falsche Angaben machten oder nicht mit den Behörden zusammenarbeiteten, könnten mit einer Geldstrafe von bis zu vier Prozent des weltweiten Umsatzes belegt werden. Für den militärischen Einsatz von KI-Systemen sollen die Vorschriften jedoch nicht gelten.

Nachtrag vom 14. April 2021, 17:28 Uhr

Wir haben die Antwort der EU-Kommission im zweiten Absatz ergänzt.

Nachtrag vom 15. April 2021, 8:43 Uhr

Ein Entwurf der Verordnung wurde inzwischen geleakt. Die Regelungen zur Gesichtserkennung finden sich dort in einem eigenen Abschnitt V mit dem Titel: "Verpflichtungen für die Nutzung biometrischer Fernidentifikationssysteme"

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


chefin 15. Apr 2021

Noch lustiger wird es, wenn automatisiert per KI nach KiPo gesucht werden soll...

olma 15. Apr 2021

"Laut Bloomberg sollen alle KI-Systeme verboten werden, (...) zur anlasslosen Überwachung...

ttloop 15. Apr 2021

Wie sonst sollten diese ewigen Identifizierungsorgien an Automaten und bei Behörden...

1e3ste4 15. Apr 2021

Die EU ist hauptsächlich wegen der CDU kaputt. Die versuchen ständig Bullshit...

Smile 14. Apr 2021

Entstehen Begehrlichkeiten. Und das wiederum führt zu Missbrauch.



Aktuell auf der Startseite von Golem.de
Open Source
"Antworten Sie innerhalb von 24 Stunden"

Die E-Mail eines großen Konzerns an den Entwickler von Curl zeigt wohl eher aus Versehen, wie problematisch das Verhältnis vieler Firmen zu Open-Source-Software ist.

Open Source: Antworten Sie innerhalb von 24 Stunden
Artikel
  1. Electronic Arts: Respawn kündigt drei Star-Wars-Spiele an
    Electronic Arts
    Respawn kündigt drei Star-Wars-Spiele an

    Ein Ego-Shooter, ein Strategiespiel und Jedi Fallen Order 2: Das Entwicklerstudio Respawn arbeitet an drei Spielen auf Basis von Star Wars.

  2. Konsumenten-Studie: Elektroauto-Interesse steigt und hängt vom Strompreis ab
    Konsumenten-Studie
    Elektroauto-Interesse steigt und hängt vom Strompreis ab

    Die hohen Benzinkosten geben dem Interesse an der Elektromobilität Aufwind, so eine Studie. Allerdings werden utopisch hohe Reichweiten gefordert.

  3. Elektro-Pick-up: Neuer Tesla-Cybertruck-Prototyp gefilmt
    Elektro-Pick-up
    Neuer Tesla-Cybertruck-Prototyp gefilmt

    In einem Video wird ein neuer Cybertruck-Prototyp von Tesla im Detail gezeigt. Es stammt vermutlich aus der Gigafactory in Texas.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Palit RTX 3080 12GB 1.548,96€ • Acer Curved Gaming-Monitor 27" 259€ • Corsair 16GB DDR4-4000 111,21€ • MindStar (u.a. 8GB DDR5-4800 89€) • 10% auf Gaming bei Ebay (u. a. Gigabyte 34" Curved UWQHD 144Hz 429,30€) • Razer Gaming-Stuhl 179,99€ • 4 Blu-rays für 22€ [Werbung]
    •  /