Wie kann so ein Scan funktionieren

Die Entdeckung von bereits bekanntem Missbrauchsmaterial könnte über Verfahren wie Photo-DNA erfolgen. Doch die Anbieter sollen nicht nur bekanntes, sondern auch neues Material erkennen und dessen Verbreitung verhindern. Das wäre beispielsweise per Mustererkennung mit Hilfe künstlicher Intelligenz (KI) möglich. Dazu setzt die Software Safer des Kinderschutzprojekts Thorn auch perzeptuelle statt kryptografische Hashing-Algorithmen ein. Darüber hinaus sollen die Anbieter auch Anbahnungsversuche aufspüren.

Zum Erkennen von Grooming heißt es in dem Entwurf: "Der Erkennungsprozess ist im Allgemeinen der invasivste für Nutzer (...), da er das automatische Durchsuchen von Texten in der zwischenmenschlichen Kommunikation erfordert. Dabei ist zu beachten, dass ein solches Scannen oft die einzig mögliche Erkennungsmöglichkeit darstellt und die eingesetzte Technik den Inhalt der Kommunikation nicht 'versteht', sondern nach bekannten, vorab identifizierten Mustern sucht, die auf mögliches Grooming hindeuten."

Microsoft gibt demnach die Erfolgsquote seines Anti-Grooming-Projekts Artemis mit 88 Prozent an. Die Fehltreffer sollen durch eine menschliche Überprüfung erkannt werden. Das bedeutet jedoch, dass sämtliche verdächtigen Konversationen von den Anbietern gelesen werden müssen.

In einem Gutachten bezeichneten die Wissenschaftlichen Dienste des Europaparlaments bereits Anfang 2021 sämtliche Verfahren mit Ausnahme von Photo-DNA als rechtsstaatlich bedenklich. Dazu zählten neben Safer und Artemis auch die Facebook-Algorithmen PDQ und TMK+PDQF.

In ihrer 282-seitigen Folgenabschätzung (PDF) verweist die EU-Kommission darauf, dass Safer eine Erkennungsrate von 99,9 Prozent habe. Das bedeutet, dass jeder tausendste Treffer falsch ist.

Wie funktioniert das bei verschlüsselter Kommunikation?

Bei einer Ende-zu-Ende-Verschlüsselung (E2E) können nur Sender und Empfänger die ausgetauschten Nachrichten einsehen. Entsprechend funktioniert ein Scan mit Programmen wie Photo-DNA auf den Servern des jeweiligen Anbieters technisch nicht.

Die Kommission beharrt jedoch darauf, dass es keine Ausnahme für Dienste wie Whatsapp oder Signal gibt, die E2E einsetzen. Um eine entsprechende Kontrolle zu ermöglichen, müssten die Anbieter entweder einen Zweitschlüssel generieren, mit denen die Nachrichten entschlüsselt und analysiert werden können.

Alternativ können sie auf das sogenannte Client-Side-Scanning setzen. Dabei sollen die eigentlich weiterhin Ende-zu-Ende-verschlüsselten Inhalte vor der Verschlüsselung oder nach dem Entschlüsseln auf dem jeweiligen Gerät vom Messenger analysiert werden. Findet sich ein Match, werden die Inhalte oder Dateien an Dritte ausgeleitet, bei denen sich letztlich Menschen die Inhalte zur Prüfung durchsehen. Gemeinsam haben die Ansätze, dass sie die Ende-zu-Ende-Verschlüsselung faktisch abschaffen, weil die Inhalte nicht mehr nur von den beiden Endpunkten eingesehen werden können.

Ohne eine sichere Ende-zu-Ende-Verschlüsselung ist auch keine sichere Kommunikation mehr möglich. Das gilt insbesondere für Journalisten, Anwälte und Menschenrechtsorganisationen, aber im Prinzip für jedwede private Kommunikation.