Alterskontrolle und Chat-Moderation: So will das Europaparlament die Chatkontrolle verhindern

Die Fraktionen des Europaparlaments haben sich auf eine Position zum Schutz vor Kindesmissbrauch geeinigt. Statt Chatkontrolle gibt es nun eine Alterskontrolle für Pornoanbieter und App-Stores.

26. Oktober 2023 um 17:32 Uhr / Ein Bericht von Friedhelm Greis

Das Europaparlament will die anlasslose Durchsuchung von Messengerdiensten verhindern. Bild: Pixabay

Das Europaparlament will die verdachtsunabhängige Massenüberwachung von Kommunikation durch andere Maßnahmen zum Schutz vor sexuellem Kindesmissbrauch ersetzen. Das sehen Kompromissvorschläge vor, auf die sich die verschiedenen Fraktionen in teils kontroversen Verhandlungen verständigt haben und die am 26. Oktober 2023 von den Verhandlungsführern des federführenden Innenausschusses (Libe) vorgestellt wurden.

Kernpunkt der Einigung ist der Vorschlag, wonach die umstrittenen Aufdeckungsanordnungen nur gezielt bei begrenzten Personengruppen oder Einzelpersonen eingesetzt werden sollen, die direkt oder entfernt in Verbindung mit Missbrauchsmaterial stehen.

Weiterhin hält ein Kompromisspapier, das Golem.de vorliegt, fest, dass interpersonelle Kommunikation, die Ende-zu-Ende-verschlüsselt ist, nicht Gegenstand von Aufdeckungsanordnungen sein darf. Demnach dürften Methoden wie das Client-Side-Scanning nicht eingesetzt werden. Die Provider sollen entscheiden, mit welchen Techniken sie Missbrauchsmaterial erkennen wollen.

Massenüberwachung als rote Linie

Der Innenausschuss soll am 13. November 2023 über die Vorschläge abstimmen und damit auch das Mandat für die Trilog-Verhandlungen mit den Mitgliedstaaten und der EU-Kommission erhalten. Die Abgeordneten appellierten an den Ministerrat, sich in den festgefahrenen Verhandlungen ebenfalls zu einigen und sich am Vorschlag des Parlaments zu orientieren.

Auf die Frage, ob es in den Verhandlungen mit den Mitgliedstaaten "rote Linien" für das Parlament gebe, sagte der zuständige Verhandlungsführer Javier Zarzalejos von der konservativen EVP-Fraktion: "Wir haben vollen Respekt vor den internen Debatten, die sie über die sogenannte Massenüberwachung führen. Das ist nicht nur eine rote Linie für uns. Es ist eine rote Linie im Recht der Europäischen Union."

Auch freiwilliges Scannen wird untersagt

Der Verzicht auf das anlasslose Scannen von Kommunikation auf Missbrauchsmaterial soll jedoch nicht nur verschlüsselte Kommunikation betreffen. Auch das freiwillige Scannen auf Basis einer Interimsverordnung soll nach einer Übergangszeit von neun Monaten der Vergangenheit angehören. Jedoch soll das neu geplante EU-Zentrum für Kinderschutz beauftragt werden, proaktiv nach bekanntem Missbrauchsmaterial auf öffentlichen Plattformen zu suchen. Das gilt nach Angaben des Europaabgeordneten Patrick Breyer auch für das Darknet.

Ebenfalls ausgeschlossen werden soll die automatisierte Suche nach Anbahnungsversuchen mit Minderjährigen zu Missbrauchszwecken, Grooming genannt. Jedoch könnte dieser Verzicht für öffentliche Chats, die sich direkt an Kinder wenden und bei denen ein hohes Groomingrisiko besteht, zu aufwendigen Maßnahmen führen. In Artikel 4 fordern die Abgeordneten von solchen Anbietern die "menschliche Moderation von öffentlich zugänglichen Chats, auf der Grundlage von Stichprobenkontrollen, und die Moderation von öffentlich zugänglichen, spezifischen Kanälen mit hohem Risiko für sexuellen Missbrauch" .

Der Piratenpolitiker Breyer verteidigte diesen Vorschlag in einem Gespräch mit Journalisten. Diese Moderation, die nicht von einer künstlichen Intelligenz (KI) übernommen werden dürfe, sei die "Alternative zu fehleranfälligen Algorithmen" .

Doch diese Moderation ist nur eine von zahlreichen Maßnahmen, mit denen Plattformen das Risiko für sexuellen Missbrauch von Kindern reduzieren sollen.

Nacktaufnahmen vor Versenden bestätigen

So soll es durch bestimmte Standardeinstellungen deutlich schwieriger werden, mit Kindern und Jugendlichen auf Plattformen unmittelbar in Kontakt zu treten. Ebenfalls soll schwieriger werden, Inhalte und Kontaktdaten auszutauschen.

Zudem soll es optional oder standardmäßig die Möglichkeit geben, dass Inhalte vor dem Versenden auf Nacktheit geprüft werden, damit der Nutzer eine ausdrückliche Zustimmung zum Senden geben kann. Diese Überprüfung solle jedoch nur geräteseitig erfolgen und vollständig der Kontrolle des Nutzers unterliegen.

Alterskontrolle bei bestimmten Apps

Die ebenfalls umstrittene Alterskontrolle für die Nutzung von Kommunikationsdiensten soll weitgehend entfallen. Aus der Verpflichtung wird laut Artikel 4, Nummer 2, eine freiwillige Maßnahme. Dabei wird den Anbietern eine Reihe von Vorgaben gemacht. So sollen diese keine weiteren Daten als das Alter des Nutzers erheben und dazu möglichst ein Zero-Knowledge-Protokoll verwenden. Biometrische Verfahren sind ausdrücklich untersagt.

Besondere Auflagen gelten jedoch für die großen App-Stores von Google und Apple nach Artikel 6. Dies gilt vor allem für den Fall, dass ein App-Anbieter die Nutzung seines Programms durch Kinder ausdrücklich untersagt. In der Praxis bedeutet das: Die App-Stores müssen mit "vernünftigen Maßnahmen" sicherstellen, dass solche Apps von Kindern, wenn überhaupt, nur mit Zustimmung der Eltern installiert werden. Laut Breyer orientiert sich der Vorschlag dabei an den entsprechenden Vorgaben der EU-Datenschutzgrundverordnung (DSGVO).

Löschen statt Netzsperren

Nicht die Zustimmung der Abgeordneten erhielt der Vorschlag der EU-Kommission für die Einrichtung von Netzsperren. Stattdessen soll es eine Löschpflicht für illegales Missbrauchsmaterial geben. Das soll auch für die Strafverfolger gelten. Laut Breyer ist das eine Reaktion auf den Fall Boystown, bei dem das Bundeskriminalamt zwar die Plattform vom Netz genommen hat , jedoch nicht das dort verlinkte Material löschen ließ.

Neue Vorgaben wollen die Abgeordneten jedoch für Pornoanbieter durchsetzen. Diese sollen laut Artikel 4a unter anderem zu einer Alterskontrolle der Nutzer verpflichtet werden. Darüber hinaus solle diese einfache Meldemöglichkeiten für Missbrauchsmaterial und eine Moderation von Inhalten umsetzen. Ebenfalls werden die Anbieter verpflichtet, selbst aktiv nach Missbrauchsmaterial zu suchen.

Insgesamt ist es den Abgeordneten in der Tat gelungen, die umstrittensten Punkte aus dem Kommissionsvorschlag herauszunehmen. Stattdessen soll der Kinderschutz mit anderen Maßnahmen besser umgesetzt werden. Diese können für bestimmte Anbieter einen hohen Aufwand bedeuten. Plattformen wie Faceit durchsuchen schon seit Jahren mit Hilfe von KI-Systemen ihre Chatgruppen . Wie dies nun von einer menschlichen Moderation bei Millionen von Nachrichten übernommen werden soll, ist unklar.

Darüber hinaus ist völlig offen, welche Vorschläge das Parlament in den Trilogverhandlungen durchsetzen kann. Das liegt auch daran, dass sich die Mitgliedstaaten bislang noch nicht auf eine gemeinsame Position verständigen konnten.

Diese Tatsache führt auch dazu, dass der Zeitplan für einen Beschluss der Verordnung vor den Europawahlen im Juni 2024 kaum noch zu halten sein wird. Nach Einschätzung Breyers dürfte das selbst dann nicht mehr zu schaffen sein, wenn sich die EU-Staaten noch in diesem Jahr verständigen sollten. Er forderte daher, dass die Öffentlichkeit ihren Druck gegen die Chatkontrolle bis zum Abschluss der Verhandlungen nicht verringern dürfe.

Nachtrag vom 26. Oktober 2023, 19:32 Uhr

Zur Frage der KI-Nutzung bei der Chatgruppenmoderation stellte Breyer klar: "Der Text verbietet nicht den Einsatz von KI-Systemen in Chatgruppen, es bleibt bei der bisherigen Rechtslage. Wegen der Verordnung muss also keine KI abgeschaltet werden. Wenn die KI das Grooming-Risiko erfolgreich eindämmt, soll eine Moderation nicht vorgeschrieben werden (nur bei hohem Grooming-Risiko auf bestimmten Kanälen). Es ist also keine Massenmoderation vorgesehen."