Generative KI: EU-Parlament stuft Chatbots nicht als hochriskant ein

Das Europaparlament will Innovationen bei Chatbots nicht abwürgen. Doch Axel Voss drängt noch auf mehr Urheberschutz.

Artikel veröffentlicht am 30. April 2023, 11:39 Uhr, Friedhelm Greis

Wie gefährlich sind KI-Programme wie ChatGPT? (Bild: Jakub Porzycki/NurPhoto/Reuters)

Die EU-Verhandlungen über die geplante Regulierung von Anwendungen der künstlichen Intelligenz (KI) können in die entscheidende Phase treten. Medienberichten zufolge einigten sich die Unterhändler des Europaparlaments darauf, sogenannte generative KI wie Chatbots oder Bildprogramme wie Midjourney nicht generell als hochriskante Technik einzustufen. Damit können in Kürze die abschließenden Verhandlungen mit den Mitgliedstaaten und der EU-Kommission über die KI-Verordnung (engl. AI Act) beginnen.

Als die EU-Kommission ihren Entwurf zur KI-Verordnung im April 2021 vorstellte, spielten Programme wie ChatGPT in der Debatte noch keine große Rolle. Auch in der Verhandlungsposition der EU-Mitgliedstaaten, die im vergangenen Dezember beschlossen wurde, ist dies noch kein Thema gewesen. Die zuständigen Verhandlungsführer des Europaparlaments, die Abgeordneten Brando Benifei und Dragoș Tudorache, schlugen Anfang Februar 2023 jedoch vor, Programme wie ChatGPT als riskant einzustufen.

Spielräume für Chatbots

Doch dazu ist es nun nicht gekommen. "Verbote oder starke Überregulierung von KIs wie ChatGPT würden nur dazu führen, dass Innovationen außerhalb der EU entstehen", sagte die Abgeordnete Svenja Hahn (FDP) der Frankfurter Allgemeinen Zeitung (FAZ). Der CDU-Abgeordnete Axel Voss ergänzte: "Die Lösung, die wir vereinbart haben, verschafft ChatGPT und anderen Anwendungen Spielraum, sich in der EU zu entwickeln."

Der Entwurf der EU-Kommission sieht in einem Anhang III bislang acht Bereiche sogenannter Hochrisiko-KI-Systeme vor. Diese betreffen unter anderem die "biometrische Identifizierung und Kategorisierung natürlicher Personen" oder "Verwaltung und Betrieb kritischer Infrastrukturen".

Neuer Artikel für generative KI

Einem Bericht des Handelsblatts zufolge soll generative KI in keine dieser Klassen eingeordnet werden. Stattdessen werde das Thema in einem separaten Artikel 28b des Gesetzes behandelt. Dabei gehe es vor allem um die Sicherstellung der Datenqualität, mit der die KI trainiert werde. Laut FAZ sollen die Anbieter die Systeme ausführlich auf die von ihnen ausgehenden Risiken überprüfen und Abhilfemaßnahmen für drohende Gefahren einbauen. Auch müssten die Entwickler ihre Systeme etwa gegen Cyberangriffe absichern.

In der Praxis bedeutet die Einigung zudem: Die Auflagen für die generativen KI-Systeme hängen davon ab, in welchem Bereich sie eingesetzt werden. Werde ChatGPT etwa in Suchmaschinen wie Bing eingesetzt, stelle es keine Hochrisikoanwendung dar. Im Falle von Versicherungen oder in Bewerbungsverfahren jedoch schon.

Anders als zunächst von Reuters berichtet wird laut FAZ die Frage des Urheberrechts an den Trainingsdaten zunächst nicht geregelt. Artikel 28b sehe dazu nur vor, dass die Erzeuger "grob angeben müssen", inwieweit sie geschütztes Material zum Training genutzt hätten. Reuters hatte noch geschrieben, dass die Firmen jedwedes verwendete Material offenlegen müssten.

Der FAZ zufolge könnte in dieser Frage jedoch noch nicht das letzte Wort gesprochen worden sein.