Kinderpornografie: Blitzverordnung zur Überwachung im Netz vorgelegt

Der Schutz von Kommunikationsinhalten darf nach Ansicht der EU-Kommission nicht die automatische Erkennung pädokrimineller Inhalte verhindern.

Artikel veröffentlicht am 14. September 2020, 18:11 Uhr, Friedhelm Greis

Die EU-Kommission unter Ursula von der Leyen will den Kindesmissbrauch im Netz bekämpfen. (Bild: Yves Herman/Reuters)

Die EU-Kommission will mit Hilfe einer neuen Verordnung die automatische Überprüfung von Kommunikationsinhalten ermöglichen. Nach Einschätzung der Kommission ist die Verordnung dringend erforderlich, weil von Ende 2020 an E-Mail- und Messengerdienste in den Geltungsbereich der sogenannten E-Privacy-Richtlinie fallen, die die Vertraulichkeit der Kommunikation garantiert. Damit wären automatische Filtersysteme, die beispielsweise nach pädokriminellem Material suchten, nicht mehr zulässig.

Hintergrund der Gesetzesinitiative ist der neue europäische Kodex für die elektronische Kommunikation (EECC), der am 20. Dezember in Kraft treten soll. Dieser definiert erstmals einen "nummernunabhängigen interpersonellen Kommunikationsdienst". Dazu zählen beispielsweise E-Mail-Anbieter, aber auch internetbasierte Messengerdienste. Für diese soll dann auch die E-Privacy-Richtlinie von 2002 gelten. Nach Angaben der EU-Kommission enthält die Richtlinie jedoch keine rechtliche Basis, damit Anbieter freiwillig die Kommunikationsinhalte ihrer Nutzer auf solches Material hin durchsuchen können.

Daher sei "sofortiges Handeln" erforderlich. Der Vorschlag enthalte eine "enge und gezielte vorläufige Lösung" mit dem alleinigen Ziel, "eine vorübergehende und streng begrenzte Ausnahme" von der Anwendbarkeit von Artikel 5 Absätze 1 und 6 der Richtlinie zu schaffen, "die die Vertraulichkeit von Kommunikations- und Verkehrsdaten schützen", heißt es zur Begründung. Die Verabschiedung einer Verordnung innerhalb von wenigen Wochen ist in der EU eher ungewöhnlich.

Nicht nur Bildmaterial soll durchsucht werden

Der am 10. September vorgelegte Entwurf erlaubt es solchen Kommunikationsdiensten jedoch nicht nur, Bildmaterial beispielsweise mit Hilfe der von Microsoft entwickelten Photo-DNA zu entdecken. Dabei wird von Fotos ein Hashwert gebildet, der sich auch durch Vergrößerungen und Verkleinerungen des Fotos nicht verändert.

Die Anbieter sollen darüber hinaus auch Texte durchsuchen dürfen. Hierbei geht es darum, das "Anwerben von Kindern für den Zweck sexueller Handlungen mit dem Kind oder der Produktion von Kinderpornografie" zu erkennen. Das soll anhand bestimmter Schlüsselwörter oder objektiv identifizierter Risikofaktoren wie Altersunterschieden aufgedeckt werden. Die eingesetzte Technik soll "ausreichend zuverlässig sein", um die Fehlerrate möglichst zu begrenzen. Eine Überprüfung der Verdachtsfälle durch Menschen sei jedoch möglich.

Die vorgeschlagene Verordnung soll zunächst vom 21. Dezember 2020 bis zum 31. Dezember 2025 gelten. In der Zwischenzeit will die Kommission einen Rechtsrahmen verabschieden, "insbesondere um die Anbieter von Online-Diensten zu verpflichten, bekanntes Material über sexuellen Missbrauch aufzudecken und den Behörden zu melden". Das hatte die Kommission am 24. Juli 2020 mitgeteilt.

Wie geht die Überwachung bei Verschlüsselung?

In diesem Zusammenhang war Anfang September 2020 ein Papier bekanntgeworden, das Methoden aufzeigen soll, um pädokriminelles Material auch bei verschlüsselter Kommunikation entdecken zu können. Entsprechende Überlegungen hatte die EU-Kommission gemeinsam mit Fachleuten von Microsoft, Google, verschiedenen Polizeibehörden, dem Geheimdienst GCHQ und mehreren Opferverbänden angestellt.

Herausgekommen sind einige halbgare technische Vorschläge, die die Ende-zu-Ende-Verschlüsselung auf verschiedene Weise aushebeln, um die übertragenen Inhalte auswerten zu können. Letztlich geht es in dem Papier darum, die Photo-DNA bei Cloud- und Social-Media-Diensten für Messenger nutzbar zu machen.

Piraten warnen vor Überwachung

Scharfe Kritik an den Plänen kam vom Europaabgeordneten Patrick Breyer. "Konzerne wie Facebook und Google den Inhalt unserer gesamten privaten Kommunikation verdachtslos und flächendeckend abfangen und auswerten zu lassen, ist zur Aufklärung der von organisierter Kriminalität genutzten Kanäle absolut untauglich und kontraproduktiv, bedroht aber die Privatsphäre und die Sicherheit der Internetkommunikation von Millionen unbescholtenen Bürgern und wird vor Gericht wohl keinen Bestand haben", sagte Breyer.

Der Piratenpolitiker warnte, dass "fehleranfällige und undurchsichtige KI-Textfilter zum Einsatz kommen". Es drohten "massenhafte Falschverdächtigungen und ein tausendfaches Mitlesen privater Nachrichten durch internationale Konzerne". In Anspielung auf den gescheiterten Versuch der damaligen Bundesfamilienministerin Ursula von der Leyen (CDU), mit Hilfe von Netzsperren die Verbreitung von Kinderpornografie im Netz einzudämmen, sagte Breyer: "Die einschlägig bekannte Zensursula von der Leyen versucht diesmal über die EU, unsere Sicherheit und Privatsphäre im Netz anzugreifen."