Whatsapp, Signal, Telegram: Die EU macht Ernst mit der Chatkontrolle

Eine geleakte Version der geplanten Chatkontrolle bestätigt die Befürchtungen von Datenschützern und Netzaktivisten.

Artikel veröffentlicht am 10. Mai 2022, 17:35 Uhr, Friedhelm Greis

Chatanbieter sollen künftig nach Missbrauchsmaterial suchen. (Bild: Xose Bouzas/Reuters)

Die EU-Kommission will Hostingprovider und Messengerdienste zum aktiven Aufspüren von Missbrauchsmaterial zwingen. Das geht aus einem 135-seitgen Entwurf zur geplanten Chatkontrolle (PDF) hervor, der Golem.de vorliegt. Demnach sollen die Anbieter verpflichtet werden, Techniken zu installieren und zu betreiben, um die Verbreitung von bekanntem oder neuem Material mit Kindesmissbrauch und der Anwerbung von Kindern zu entdecken. Wie genau diese Detektion umgesetzt werden soll, bleibt jedoch den Anbietern überlassen. Die EU-Kommission will den Entwurf am 11. Mai 2022 offiziell vorstellen.

Nach Artikel 10 der geplanten Verordnung zur Verhinderung und Bekämpfung von Kindesmissbrauch soll ein noch zu etablierendes EU-Zentrum die erforderlichen Techniken kostenlos bereitstellen. Allerdings müssen die Anbieter keine bestimmte Technik verwenden, solange die Anforderungen des Artikels umgesetzt werden. Der Europäische Datenschutzausschuss (EDSA) soll dazu seine Einschätzungen abgeben.

Anforderungen wie an Staatstrojaner

Die Detektionsverfahren müssen dem Entwurf zufolge vier Anforderungen erfüllen. So müssen sie einerseits bekanntes und neues Missbrauchsmaterial wirksam aufspüren können, dürfen andererseits aber "keine anderen Informationen aus den betreffenden Mitteilungen extrahieren können als die Informationen, die unbedingt erforderlich sind".

Ebenso sollen die eingesetzten Verfahren auf dem aktuellen Stand der Technik und "mit dem geringsten Eingriff" in die Rechte der Nutzer auf Privat- und Familienleben verbunden sein, "einschließlich der Vertraulichkeit der Kommunikation und den Schutz personenbezogener Daten". Zu guter Letzt soll die Technik "ausreichend zuverlässig" sein, um die Zahl von falschen Meldungen möglichst stark zu reduzieren.

Menschliche Aufsicht gefordert

Für die Anbieter stellt die Kommission in Bezug auf die Technik sechs Anforderungen auf. So sollen sie sicherstellen, dass die Verfahren nicht zu anderen Zwecken als der Aufdeckung von Kindesmissbrauch verwendet werden. Dazu soll es "wirksame interne Verfahren" geben, um den Missbrauch der Technik zu verhindern oder um diesen aufzudecken.

Eine menschliche Aufsicht soll des Weiteren sicherstellen, dass die Technik ausreichend zuverlässig funktioniert und im Falle möglicher Fehler oder einer möglichen Anwerbung von Kindern interveniert werden kann. Ebenfalls sollen sie Verfahren etablieren, damit sich Nutzer im Fall fälschlich geblockten Materials oder gesperrter Zugänge beschweren können. Zudem müssen die Anbieter ihre Nutzer über den Einsatz der Chatkontrolle informieren, allerdings nicht so, dass dies die Wirksamkeit der eingesetzten Maßnahmen verringern könnte.

Zuvor müssen die Anbieter laut Artikel 3 des Entwurfs eine Risikoeinschätzung ihres Dienstes erstellen. Das betrifft die Frage, inwieweit der Dienst für eine Verbreitung von Missbrauchsmaterial genutzt werden kann oder in der Vergangenheit schon genutzt wurde. Laut Artikel 4 müssen die Anbieter zudem vernünftige Maßnahmen zur Risikominimierung ergreifen. Das könnte im Falle von Messengerdiensten beispielsweise durch eine Altersüberprüfung der Nutzer erfolgen.