Warum ist die Chatkontrolle problematisch?

Die geplanten Vorgaben sind aus mehreren Gründen problematisch, da sie gewissermaßen eine dauerhafte Onlinedurchsuchung aller Kommunikationsinhalte auf den Endgeräten erfordern. Bislang erfolgt eine solche Durchsuchung heimlich durch Ermittlungsbehörden und ist nur in wenigen Einzelfällen erlaubt, weil damit das Fernmeldegeheimnis und das Recht auf die Integrität informationstechnischer Systeme außer Kraft gesetzt werden. Eine anlass- und verdachtsunabhängige Aufhebung dieser Grundrechte hat der Europäische Gerichtshof (EuGH) im Falle der Vorratsdatenspeicherung mehrfach abgelehnt.

Darüber hinaus besteht das Risiko, dass solche Systeme früher oder später für andere Zwecke eingesetzt werden. Da selbst die Kommission eine Missbrauchsgefahr der Technik sieht, sollen Anbieter "wirksame interne Verfahren" einsetzen, um eine missbräuchliche Nutzung zu verhindern oder aufzudecken. Damit soll beispielsweise verhindert werden, dass die Anbieter nach anderen Inhalten suchen und diese ausleiten. Da verschlüsselte Kommunikation ebenfalls gescannt werden soll, ist vertrauliche Kommunikation im Grunde nicht mehr möglich.

Wie fehleranfällig ist die Technik?

Zwar soll die Technik "ausreichend zuverlässig" sein, um die Zahl von falschen Meldungen möglichst stark zu reduzieren. Doch bei den unzähligen Nachrichten, die jeden Tag über Messenger ausgetauscht werden, sorgt auch eine extrem niedrige Fehlerrate dafür, dass massenhaft private und intime Nachrichten, Bilder und Videos an staatliche Behörden übermittelt werden - obwohl sie nicht im Entferntesten etwas mit Kindesmissbrauch zu tun haben.

Dabei dürfte die Fehlerrate bei einem Scan nach bisher unbekannten Missbrauchsabbildungen sowie von Textnachrichten auf mögliches Grooming deutlich höher sein und für noch viel mehr falsch-positive Meldungen sorgen.

Zwar ist der Einsatz der Technik derzeit nur gegen Kindesmissbrauchsabbildungen und Grooming geplant, doch einmal eingeführt, lassen sich die Inhalte, nach denen gescannt werden soll, beliebig erweitern. So könnte beispielsweise auch nach terroristischen Inhalten, organisierter Kriminalität, politischem Aktivismus, Whistleblowing oder kritischem Journalismus gesucht werden.

Welche Rolle spielt das EU-Zentrum?

Das unabhängige EU-Zentrum soll mehrere Aufgaben übernehmen. So soll es eine Datenbank mit Indikatoren erstellen, die eine zuverlässige Identifizierung von kinderpornografischem Material und der Kontaktaufnahme zu Kindern im Sinne der EU-Vorschriften ermöglichen. Auch soll die Behörde Meldungen über solche Inhalte von den Dienstanbietern entgegennehmen, auf mögliche falsch-positive Fälle prüfen und an die zuständigen Strafverfolgungsbehörden und Europol weiterleiten. Das Zentrum soll den Anbietern die erforderlichen Techniken zur Inhalteerkennung kostenlos bereitstellen.

Plante Apple nicht etwas Ähnliches?

Der US-Konzern Apple plante im Jahr 2021 einen sogenannten Fotoscan. Das Unternehmen wollte die Fotos von iPhone- und iPad-Nutzern auf kinderpornografisches Material scannen, bevor diese in die iCloud geladen werden. Der Scan der Fotos soll direkt auf den Geräten der Nutzer erfolgen. Dazu sollten Hashes von den vorhandenen Dateien gebildet und lokal mit einer Datenbank abgeglichen werden, die Hashes von bekanntem kinderpornografischen Material enthält.

Die Pläne wurden nach dem Aufschrei von Nutzern und Sicherheitsexperten aber nicht umgesetzt. Apple lege mit dem angekündigten Fotoscan den Grundstein für globale Zensur, Überwachung und Verfolgung, warnten damals 90 Menschenrechtsorganisationen.