Whatsapp, Signal, Telegram: Die EU macht Ernst mit der Chatkontrolle
Die EU-Kommission will Hostingprovider und Messengerdienste zum aktiven Aufspüren von Missbrauchsmaterial zwingen. Das geht aus einem 135-seitgen Entwurf zur geplanten Chatkontrolle (PDF)(öffnet im neuen Fenster) hervor, der Golem.de vorliegt. Demnach sollen die Anbieter verpflichtet werden, Techniken zu installieren und zu betreiben, um die Verbreitung von bekanntem oder neuem Material mit Kindesmissbrauch und der Anwerbung von Kindern zu entdecken. Wie genau diese Detektion umgesetzt werden soll, bleibt jedoch den Anbietern überlassen. Die EU-Kommission will den Entwurf am 11. Mai 2022 offiziell vorstellen.
Nach Artikel 10 der geplanten Verordnung zur Verhinderung und Bekämpfung von Kindesmissbrauch soll ein noch zu etablierendes EU-Zentrum die erforderlichen Techniken kostenlos bereitstellen. Allerdings müssen die Anbieter keine bestimmte Technik verwenden, solange die Anforderungen des Artikels umgesetzt werden. Der Europäische Datenschutzausschuss (EDSA) soll dazu seine Einschätzungen abgeben.
Anforderungen wie an Staatstrojaner
Die Detektionsverfahren müssen dem Entwurf zufolge vier Anforderungen erfüllen. So müssen sie einerseits bekanntes und neues Missbrauchsmaterial wirksam aufspüren können, dürfen andererseits aber "keine anderen Informationen aus den betreffenden Mitteilungen extrahieren können als die Informationen, die unbedingt erforderlich sind".
Ebenso sollen die eingesetzten Verfahren auf dem aktuellen Stand der Technik und "mit dem geringsten Eingriff" in die Rechte der Nutzer auf Privat- und Familienleben verbunden sein, "einschließlich der Vertraulichkeit der Kommunikation und den Schutz personenbezogener Daten". Zu guter Letzt soll die Technik "ausreichend zuverlässig" sein, um die Zahl von falschen Meldungen möglichst stark zu reduzieren.
Menschliche Aufsicht gefordert
Für die Anbieter stellt die Kommission in Bezug auf die Technik sechs Anforderungen auf. So sollen sie sicherstellen, dass die Verfahren nicht zu anderen Zwecken als der Aufdeckung von Kindesmissbrauch verwendet werden. Dazu soll es "wirksame interne Verfahren" geben, um den Missbrauch der Technik zu verhindern oder um diesen aufzudecken.
Eine menschliche Aufsicht soll des Weiteren sicherstellen, dass die Technik ausreichend zuverlässig funktioniert und im Falle möglicher Fehler oder einer möglichen Anwerbung von Kindern interveniert werden kann. Ebenfalls sollen sie Verfahren etablieren, damit sich Nutzer im Fall fälschlich geblockten Materials oder gesperrter Zugänge beschweren können. Zudem müssen die Anbieter ihre Nutzer über den Einsatz der Chatkontrolle informieren, allerdings nicht so, dass dies die Wirksamkeit der eingesetzten Maßnahmen verringern könnte.
Zuvor müssen die Anbieter laut Artikel 3 des Entwurfs eine Risikoeinschätzung ihres Dienstes erstellen. Das betrifft die Frage, inwieweit der Dienst für eine Verbreitung von Missbrauchsmaterial genutzt werden kann oder in der Vergangenheit schon genutzt wurde. Laut Artikel 4 müssen die Anbieter zudem vernünftige Maßnahmen zur Risikominimierung ergreifen. Das könnte im Falle von Messengerdiensten beispielsweise durch eine Altersüberprüfung der Nutzer erfolgen.
Koordinierende Behörde geplant
Die Mitgliedstaaten sollen laut Artikel 25 eine oder mehrere "koordinierende Behörden" bestimmen, die für die Umsetzung der Verordnung verantwortlich sind. Eine dieser Behörden soll laut Artikel 7 die Befugnis haben, eine "Erkennungsanordnung" (detection order) bei den zuständigen Justizbehörden zu beantragen. Diese Anordnung wird dann an den Anbieter und das EU-Zentrum übermittelt, die noch eine Stellungnahme abgeben können. Sowohl Anbieter als auch betroffene Nutzer können noch Widerspruch gegen die Anordnung einlegen.
Mit ihren 135 Seiten und 89 Artikeln ist der Verordnungsentwurf verhältnismäßig umfangreich und detailliert. Aber auch in den 84 Erwägungsgründen geht der Entwurf nicht darauf ein, wie die Erkennung des Materials technisch umgesetzt werden soll. So heißt es in Erwägungsgrund 26 lediglich: "Daher überlässt diese Verordnung den betreffenden Anbietern die Wahl der Technologien, die sie einsetzen, um den Aufdeckungsanordnungen wirksam nachzukommen, und sollte nicht so verstanden werden, dass sie den Einsatz einer bestimmten Technologie bevorzugt oder diese missbilligt, vorausgesetzt, die Technologien und Begleitmaßnahmen erfüllen die Anforderungen dieser Verordnung." Dies gelte auch für den Einsatz von Ende-zu-Ende-Verschlüsselung, "die ein wichtiges Instrument ist, um die Sicherheit und Vertraulichkeit der Kommunikation der Nutzer, einschließlich von Kindern, zu gewährleisten".
Protestaktion in Berlin
Falls Anbieter wie Whatsapp oder Signal nicht die Ende-zu-Ende-Verschlüsselung aufbrechen wollen, bleibt ihnen de facto nur die Möglichkeit, die Inhalte innerhalb der App bereits vor der Verschlüsselung zu durchforsten. Der Chaos Computer Club (CCC) bezeichnete dieses sogenannte Client-Side-Scanning zuletzt als "überzogene und fehlgeleitete Überwachungsmethode" und "fundamental fehlgeleitete Technologie", die grundsätzlich abzulehnen sei.
Es ist abzusehen, dass Netzaktivisten und Bürgerrechtler versuchen werden, die Umsetzung der Pläne zu verhindern. Für den 11. Mai 2022 um 14 Uhr ist bereits eine "kleine Protestaktion" vor der Vertretung der EU-Kommission in Berlin geplant(öffnet im neuen Fenster). "Die Pläne der Kommission würden den flächendeckenden Einsatz umfassender Überwachungs- und Kontrolltechnologien voraussetzen – in einem Maße, wie es in Europa bislang kaum zu denken war", schreibt die Digitale Gesellschaft in ihrem Aufruf.
Nachtrag vom 11. Mai 2022, 10:12 Uhr
Wir haben das Originaldokument, das inzwischen von Netzpolitik.org veröffentlicht wurde, im ersten Absatz verlinkt.
- Anzeige Hier geht es zu Hacking & Security: Das umfassende Handbuch bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.