Welche KI-Anwendungen bleiben verboten?

Voss wolle diese Frage in den anstehenden Verhandlungen mit den Mitgliedstaaten noch ansprechen. Der CDU-Politiker hatte sich bereits in der Debatte über die EU-Urheberrechtsreform für die Interessen von Verlagen starkgemacht und das Leistungsschutzrecht für Presseverleger durchgesetzt.

Nach Angaben von Euractiv hat es in den vergangenen Wochen noch intensive Debatten darüber gegeben, welche KI-Anwendungen aufgrund ihrer Gefährlichkeit generell verboten werden sollten. Dazu habe es Überlegungen gegeben, KI-gestützte Werkzeuge für die allgemeine Überwachung der zwischenmenschlichen Kommunikation zu verbieten. Der Vorschlag sei jedoch am Widerstand der konservativen Europäischen Volkspartei (EVP) gescheitert.

Verbot von Predictive Policing ausgeweitet

Der Einsatz von KI-gestützter Software zur Emotionserkennung soll in den Bereichen Strafverfolgung, Grenzschutz, Arbeitsplatz und Bildung verboten werden. Ausgeweitet wurde demnach das Verbot von KI-basiertem "Predictive Policing" (voraussagende Polizeiarbeit) von Straftaten auf Ordnungswidrigkeiten. Hintergrund sei ein Kindergeldskandal in den Niederlanden, bei dem Tausende Familien aufgrund eines fehlerhaften Algorithmus fälschlicherweise des Betrugs beschuldigt worden seien.

Der finale Text der Einigung liegt noch nicht vor. Laut Euractiv könnte er vor der für den 11. Mai 2023 geplanten Abstimmung im Ausschuss noch geringfügig auf technischer Ebene angepasst werden. Die Abstimmung im Plenum solle Mitte Juni erfolgen.