• IT-Karriere:
  • Services:

Künstliche Intelligenz: EU-Kommission will offenbar Gesichtserkennung erlauben

Die EU-Kommission will KI-Anwendungen regulieren. Einsatzmöglichkeiten wie Social Scoring sollen verboten werden.

Artikel veröffentlicht am ,
Welche Überwachungssysteme dürfen künftig an Kameras angeschlossen werden?
Welche Überwachungssysteme dürfen künftig an Kameras angeschlossen werden? (Bild: Riccardo Milani/Hans Lucas/Reuters)

Die EU-Kommission will offenbar Systeme auf Basis künstlicher Intelligenz (KI) verbieten, wenn diese zur Massenüberwachung oder zur Einstufung des Sozialverhaltens eingesetzt werden. Das berichtet der Wirtschaftsdienst Bloomberg unter Berufung auf aktuelle Regulierungsvorschläge, die in der kommenden Woche vorgestellt werden könnten.

Stellenmarkt
  1. über grinnberg GmbH, Frankfurt am Main
  2. über grinnberg GmbH, Darmstadt

Die umstrittene biometrische Gesichtserkennung soll demnach nicht generell verboten werden, soll aber eine besondere Genehmigung durch die Behörden erfordern. Auf Anfrage von Golem.de bestätigte eine Sprecherin lediglich, dass die Pläne am 21. April 2021 in Brüssel vorgestellt werden sollten.

Die Kommission orientiert sich bei den Plänen an einem 30-seitigen Weißbuch zur KI (PDF), das Kommissionspräsidentin Ursula von der Leyen im Februar 2020 vorgestellt hat. Darin wurden die Sektoren Verkehr, Gesundheitswesen, Energie und Teile des öffentlichen Sektors als besonders risikobehaftet eingestuft. Ist bei dem Einsatz von KI in einem solchen Bereich mit "erheblichen Risiken" zu rechnen, sieht die EU-Kommission darin eine Anwendung "mit hohem Risiko", für die ein "regulatorischer Eingriff" nötig sein könnte.

Laut Bloomberg sollen alle KI-Systeme verboten werden, die zur Manipulation des menschlichen Verhaltens dienen, Informationen über Einzelpersonen oder Gruppen zum Zwecke eines Social Scoring auswerten oder zur anlasslosen Überwachung eingesetzt werden. Ausnahmen für die öffentliche Sicherheit, wie bei der automatisierten Gesichtserkennung, soll es aber geben. Erst Mitte Februar haben fast 20 Organisationen ein Verbot von automatisierter Gesichtserkennung im öffentlichen Raum gefordert.

Keine Einschränkungen für militärische Nutzung

Golem Akademie
  1. Microsoft 365 Security Workshop
    9.-11. Juni 2021, Online
Weitere IT-Trainings

Als "risikoreich" eingestufte KI-Anwendungen müssten vor dem Einsatz überprüft werden, um sicherzustellen, dass die Systeme auf nachvollziehbare Weise, unter menschlicher Aufsicht und mit objektiven Datensätzen trainiert wurden, heißt es in dem Bericht. Die Regeln würden gleichermaßen für Unternehmen mit Sitz in der EU oder im Ausland gelten. Die europäischen Mitgliedstaaten müssten Bewertungsstellen benennen, um die Systeme zu testen, zu zertifizieren und zu prüfen.

Unternehmen, die verbotene KI-Dienste entwickelten, falsche Angaben machten oder nicht mit den Behörden zusammenarbeiteten, könnten mit einer Geldstrafe von bis zu vier Prozent des weltweiten Umsatzes belegt werden. Für den militärischen Einsatz von KI-Systemen sollen die Vorschriften jedoch nicht gelten.

Nachtrag vom 14. April 2021, 17:28 Uhr

Wir haben die Antwort der EU-Kommission im zweiten Absatz ergänzt.

Nachtrag vom 15. April 2021, 8:43 Uhr

Ein Entwurf der Verordnung wurde inzwischen geleakt. Die Regelungen zur Gesichtserkennung finden sich dort in einem eigenen Abschnitt V mit dem Titel: "Verpflichtungen für die Nutzung biometrischer Fernidentifikationssysteme"

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Spiele-Angebote
  1. (u. a. Angebote zu Spielen, Gaming-Monitoren, PC- und Konsolen-Zubehör, Gaming-Laptops uvm.)
  2. 9,49€
  3. 7,29€

chefin 15. Apr 2021 / Themenstart

Noch lustiger wird es, wenn automatisiert per KI nach KiPo gesucht werden soll...

olma 15. Apr 2021 / Themenstart

"Laut Bloomberg sollen alle KI-Systeme verboten werden, (...) zur anlasslosen Überwachung...

ttloop 15. Apr 2021 / Themenstart

Wie sonst sollten diese ewigen Identifizierungsorgien an Automaten und bei Behörden...

1e3ste4 15. Apr 2021 / Themenstart

Die EU ist hauptsächlich wegen der CDU kaputt. Die versuchen ständig Bullshit...

Smile 14. Apr 2021 / Themenstart

Entstehen Begehrlichkeiten. Und das wiederum führt zu Missbrauch.

Kommentieren


Folgen Sie uns
       


Mini-PCs von Asus, Apple und Zotac im Test - Fazit

Wir haben uns den Mac Mini und zwei Alternativen von Asus und Zotac angesehen. Es ist interessant, wie leistungsfähig die Kontrahenten sind.

Mini-PCs von Asus, Apple und Zotac im Test - Fazit Video aufrufen
Programm für IT-Jobeinstieg: Hoffen auf den Klebeeffekt
Programm für IT-Jobeinstieg
Hoffen auf den Klebeeffekt

Aktuell ist der Jobeinstieg für junge Ingenieure und Informatiker schwer. Um ihnen zu helfen, hat das Land Baden-Württemberg eine interessante Idee: Es macht sich selbst zur Zeitarbeitsfirma.
Ein Bericht von Peter Ilg

  1. Arbeitszeit Das Sechs-Stunden-Experiment bei Sipgate
  2. Neuorientierung im IT-Job Endlich mal machen!
  3. IT-Unternehmen Die richtige Software für ein Projekt finden

Weclapp-CTO Ertan Özdil: Wir dürfen nicht in Schönheit und Perfektion untergehen!
Weclapp-CTO Ertan Özdil
"Wir dürfen nicht in Schönheit und Perfektion untergehen!"

Der CTO von Weclapp träumt von smarter Software, die menschliches Eingreifen in der nächsten ERP-Generation reduziert. Deutschen Perfektionismus hält Ertan Özdil aber für gefährlich.
Ein Interview von Maja Hoock


    Fiat 500 als E-Auto im Test: Kleinstwagen mit großem Potenzial
    Fiat 500 als E-Auto im Test
    Kleinstwagen mit großem Potenzial

    Fiat hat einen neuen 500er entwickelt. Der Kleine fährt elektrisch - und zwar richtig gut.
    Ein Test von Peter Ilg

    1. Vierradlenkung Elektrischer GMC Hummer SUV fährt im Krabbengang seitwärts
    2. MG Cyberster MG B Roadster mit Lasergürtel und Union Jack
    3. Elektroauto E-Auto-Prämie übersteigt in 2021 schon Vorjahressumme

      •  /