Künstliche Intelligenz: EU-Kommission will offenbar Gesichtserkennung erlauben
Die EU-Kommission will offenbar Systeme auf Basis künstlicher Intelligenz (KI) verbieten, wenn diese zur Massenüberwachung oder zur Einstufung des Sozialverhaltens eingesetzt werden. Das berichtet der Wirtschaftsdienst Bloomberg(öffnet im neuen Fenster) unter Berufung auf aktuelle Regulierungsvorschläge, die in der kommenden Woche vorgestellt werden könnten.
Die umstrittene biometrische Gesichtserkennung soll demnach nicht generell verboten werden, soll aber eine besondere Genehmigung durch die Behörden erfordern. Auf Anfrage von Golem.de bestätigte eine Sprecherin lediglich, dass die Pläne am 21. April 2021 in Brüssel vorgestellt werden sollten.
Die Kommission orientiert sich bei den Plänen an einem 30-seitigen Weißbuch zur KI (PDF)(öffnet im neuen Fenster) , das Kommissionspräsidentin Ursula von der Leyen im Februar 2020 vorgestellt hat . Darin wurden die Sektoren Verkehr, Gesundheitswesen, Energie und Teile des öffentlichen Sektors als besonders risikobehaftet eingestuft. Ist bei dem Einsatz von KI in einem solchen Bereich mit "erheblichen Risiken" zu rechnen, sieht die EU-Kommission darin eine Anwendung "mit hohem Risiko" , für die ein "regulatorischer Eingriff" nötig sein könnte.
Laut Bloomberg sollen alle KI-Systeme verboten werden, die zur Manipulation des menschlichen Verhaltens dienen, Informationen über Einzelpersonen oder Gruppen zum Zwecke eines Social Scoring auswerten oder zur anlasslosen Überwachung eingesetzt werden. Ausnahmen für die öffentliche Sicherheit, wie bei der automatisierten Gesichtserkennung, soll es aber geben. Erst Mitte Februar haben fast 20 Organisationen ein Verbot von automatisierter Gesichtserkennung im öffentlichen Raum gefordert .
Keine Einschränkungen für militärische Nutzung
Als "risikoreich" eingestufte KI-Anwendungen müssten vor dem Einsatz überprüft werden, um sicherzustellen, dass die Systeme auf nachvollziehbare Weise, unter menschlicher Aufsicht und mit objektiven Datensätzen trainiert wurden, heißt es in dem Bericht. Die Regeln würden gleichermaßen für Unternehmen mit Sitz in der EU oder im Ausland gelten. Die europäischen Mitgliedstaaten müssten Bewertungsstellen benennen, um die Systeme zu testen, zu zertifizieren und zu prüfen.
Unternehmen, die verbotene KI-Dienste entwickelten, falsche Angaben machten oder nicht mit den Behörden zusammenarbeiteten, könnten mit einer Geldstrafe von bis zu vier Prozent des weltweiten Umsatzes belegt werden. Für den militärischen Einsatz von KI-Systemen sollen die Vorschriften jedoch nicht gelten.
Nachtrag vom 14. April 2021, 17:28 Uhr
Wir haben die Antwort der EU-Kommission im zweiten Absatz ergänzt.
Nachtrag vom 15. April 2021, 8:43 Uhr
Ein Entwurf der Verordnung wurde inzwischen geleakt(öffnet im neuen Fenster) . Die Regelungen zur Gesichtserkennung finden sich dort in einem eigenen Abschnitt V mit dem Titel: "Verpflichtungen für die Nutzung biometrischer Fernidentifikationssysteme"
- Anzeige Hier geht es zu Internet of Crimes bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.