Kindesmissbrauch: Wer kann die Chatkontrolle noch stoppen?
Es hat selten ein Gesetzesvorhaben der EU-Kommission gegeben, dem so viele rechtliche und technische Bedenken entgegengebracht wurden. Die umfassenden Pläne zur Bekämpfung von sexuellem Missbrauch von Kindern stoßen bei Datenschützern und Bürgerrechtlern auf vehemente Ablehnung. Im kommenden Jahr gehen die Diskussionen um die sogenannte Chatkontrolle in die entscheidende Phase. Der Position der Bundesregierung dürfte dabei eine wichtige Rolle zukommen.
Wie diese Position aussehen könnte, präzisierte das Bundesinnenministerium auf Anfrage von Golem.de nun. "Anbietern sollen hohe rechtliche und technische Anforderungen an die einzusetzenden Technologien vorgeschrieben werden. Dazu zählt die Wahrung einer durchgängigen Ende-zu-Ende-Verschlüsselung" , sagte Ministeriumssprecherin Britta Beylage-Haarmann und fügte hinzu: "Der Einsatz von Technologien, die auf dem privaten Endgerät installiert werden, ist im Verordnungsentwurf auszuschließen."
Faeser ist eigentlich gegen Chatkontrolle
Bundesinnenministerin Nancy Faeser (SPD) erweckte zuletzt eher den Eindruck, als wisse sie weder, was sie wolle, noch verstehe sie, worum es eigentlich geht. Auf die Frage, ob ihr Ministerium in einem Positionspapier weiterhin die Überwachung von Nutzern auf deren Endgeräten befürworte, antwortete sie in der Bundespressekonferenz(öffnet im neuen Fenster) : "Nein, es geht nicht um Chatkontrolle. (...) Ich habe auch immer wieder gesagt, dass ich persönlich keine Chatkontrolle möchte."
In der Tat ist es nicht so einfach, aus dem von Netzpolitik.org veröffentlichten Positionspapier(öffnet im neuen Fenster) herauszulesen, dass das Bundesinnenministerium die Chatkontrolle unterstützt. Denn darin heißt es unter anderem: "Der Einsatz von Maßnahmen, die zu einem Bruch, einer Schwächung, Modifikation oder einer Umgehung von Ende-zu-Ende-Verschlüsselung führen, ist durch konkretere technische Anforderungen im VO-E [Verordnungs-Entwurf] auszuschließen."
EU-Kommission will keine Ausnahmen bei Verschlüsselung
Die EU-Kommission beharrt darauf, dass es keine Ausnahme für Dienste wie Whatsapp oder Signal gebe , die Ende-zu-Ende-Verschlüsselung (E2E) einsetzten. Um eine entsprechende Kontrolle zu ermöglichen, müssten die Anbieter entweder einen Zweitschlüssel generieren, mit denen die Nachrichten entschlüsselt und analysiert werden können. Alternativ können sie auf das sogenannte Client-Side-Scanning (CSS)(öffnet im neuen Fenster) setzen. Dabei sollen die eigentlich weiterhin Ende-zu-Ende-verschlüsselten Inhalte vor der Verschlüsselung oder nach dem Entschlüsseln auf dem jeweiligen Gerät vom Messenger analysiert werden.
So heißt es in einem aktuellen Dokument (PDF) (öffnet im neuen Fenster) des EU-Ministerrats, in dem die EU-Mitgliedstaaten repräsentiert sind: "Es existieren auch technische Lösungen, um sexuellen Missbrauch von Kindern im Internet in Ende-zu-Ende-verschlüsselten Systemen zu erkennen, etwa die Aufdeckung von Inhalten auf Nutzerseite noch vor der eigentlichen Verschlüsselung."
Faeser will sich CSS "nähern"
In diesem Zusammenhang verwundert eine Aussage von Bundesinnenministerin Faeser aus der besagten Pressekonferenz zu dem Positionspapier: "Es steht drin, dass wir uns dem Client-Side-Scanning nähern können, aber da geht es nicht darum, diese Technik auf privaten Endgeräten zu installieren." Nun ist Faeser dafür bekannt, dass sie schnell mal ihre Meinung zu bestimmten Themen ändern kann . Doch diese Aussage ergibt überhaupt keinen Sinn.
Wenn man Client-Side-Scanning einsetzen will, dann natürlich auf den Endgeräten der Nutzer. Und man kann sich dem CSS nicht "nähern" , ohne gleichzeitig die Verschlüsselung umgehen zu wollen. Sonst könnte man die Erkennung auch direkt serverseitig einsetzen. An dieser Quadratur des Verschlüsselungskreises (g+) versucht sich das Innenministerium schon seit Jahren. Das dürfte auch bei der Chatkontrolle nicht gelingen.
Der Koalitionsvertrag zwischen SPD, Grünen und FDP , dem sich das jahrelang von der Union geführte Innenministerium ebenfalls verpflichtet fühlen sollte, geht sogar noch weiter. Darin heißt es: "Allgemeine Überwachungspflichten, Maßnahmen zum Scannen privater Kommunikation und eine Identifizierungspflicht lehnen wir ab." Das würde sogar bedeuten, dass das bisherige serverseitige Scannen von Inhalten, um Missbrauchsdarstellungen zu erkennen, nicht zulässig sein sollte. Von der Überwachung auf den Endgeräten ganz abgesehen.
Es ist daher nicht verwunderlich, dass sich die Ampelkoalition eine eindeutige Positionierung auf EU-Ebene gegen die Chatkontrolle wünscht.
Esken und Buschmann bringen Faeser auf Linie
So stellte SPD-Chefin Saskia Esken auf Mastodon klar(öffnet im neuen Fenster) : "Ich bin mir mit Innenministerin Nancy Faeser einig: Eine Chatkontrolle lehnen wir rundheraus ab – auch in der Version des Client Side Scanning. Es macht keinen Unterschied, ob man die Verschlüsselung bricht oder ob man sie umgeht – in jedem Fall ist damit die Vertraulichkeit der Kommunikation zerstört. Bürgerrechte gehen vor."
Bundesjustizminister Marco Buschmann scheint die Innenministerin ebenfalls ins Gebet genommen zu haben: "Nach einem guten Gespräch mit meiner Kollegin Nancy Faeser kann ich klar sagen: Die Bundesregierung ist sich einig, dass wir klar gegen die Chatkontrolle sind. Eine anlasslose Überwachung privater Kommunikation hat im Rechtsstaat nichts zu suchen" , twitterte der FDP-Politiker(öffnet im neuen Fenster) . Causa finita? Wohl eher nicht.
Dem Innenministerium zufolge existiert weiterhin keine abgestimmte Position innerhalb der Bundesregierung. "Das erste vorläufige Positionspapier zeigt aber bereits, dass aus Sicht der Bundesregierung der Verordnungsentwurf an einigen Stellen deutlich nachgeschärft werden muss" , sagte die Sprecherin.
Andere EU-Staaten offenbar einverstanden
Denn selbst wenn sich die Bundesregierung auf EU-Ebene eindeutig gegen die Chatkontrolle positionieren würde, ist nicht sicher, dass sie damit eine Mehrheit im Ministerrat findet. So geht aus dem oben erwähnten Dokument hervor, dass es innerhalb der Mitgliedstaaten keine grundsätzlichen Bedenken gegen die Chatkontrolle zu geben scheint. Das verwundert allerdings nicht, denn der Vorschlag der EU-Kommission wurde im Rat "von der Gruppe 'Strafverfolgung' (Polizei) geprüft" . Bei den Ermittlungsbehörden gab es jedoch noch nie große Widerstände gegen zusätzliche Überwachungsinstrumente.
Es ist daher gut möglich, dass die EU-Staaten die Chatkontrolle mehrheitlich unterstützen und eine ablehnende Haltung Deutschlands überstimmt würde. Dem Dokument zufolge zeichnet sich sogar ab, dass die Mitgliedstaaten Netzsperren erleichtern wollen. So soll es neben den geplanten Aufdeckungsanordnungen, vulgo Chatkontrolle, eine "Streichungsanordnung" ( "delisting order" ) geben. Letztere dürfte sich auf die Entfernung von Suchergebnissen in Suchmaschinen beziehen.
Dem Vorschlag der EU-Staaten zufolge sollen Anordnungen zum Löschen oder Streichen von illegalen Inhalten sowie Netzsperren nicht mehr einem Richtervorbehalt unterliegen, sondern von den "zuständigen Behörden" erteilt werden können. Das heißt: Die Wahrscheinlichkeit von Netzsperren könnte größer werden.
Das Beispiel macht deutlich: Die Chatkontrolle ist längst nicht das einzig Problematische am Entwurf der EU-Kommission .
Weitere bedenkliche Pläne
Zu den weitreichenden Maßnahmen gehören darüber hinaus eine wirksame Altersverifikation der Nutzer sowie eine Blockade von Apps durch die App Stores. Über letztere könnte die EU Druck auf Apps ausüben, die den Anforderungen nicht nachkommen und beispielsweise ihre Ende-zu-Ende-Verschlüsselung nicht aushebeln wollen. Diese könnten dann in der EU aus den App Stores verschwinden.
Es ist daher kein Zufall, dass der IT-Branchenverband Eco eine 17-seitige Stellungnahme (PDF)(öffnet im neuen Fenster) benötigt, um sämtliche Bedenken gegen die Pläne aufzulisten. Darin verweist der Verband unter anderem auf seine 25-jährigen Erfahrungen als Betreiber einer Beschwerdestelle zur Entgegennahme von Hinweisen auf rechtswidrige Internetinhalte, darunter vor allem Kindesmissbrauch.
100-prozentige Löschquote in Deutschland
Nach Angaben des Eco werden entsprechende Hinweise zunächst an das Bundeskriminalamt (BKA) weitergeleitet. Die Löschquote in Deutschland liege dabei bei 100 Prozent, sagte die Leiterin der Eco-Beschwerdestelle, Alexandra Koch-Skiba, im Oktober 2022 in einem Hintergrundgespräch(öffnet im neuen Fenster) . Wobei ein Löschvorgang durchschnittlich 2,6 Tage dauere, auch am Wochenende. Selbst im weltweiten Ausland liege die Löschquote bei 98 Prozent.
Was zum einen deutlich macht: Beim Thema Kindesmissbrauch gibt es laut Koch-Skiba kein Land, "wo grundsätzlich gar nichts funktioniert" und in dem die Behörden solche Inhalte bei ihren Providern dulden. Zum anderen scheint das Instrument der Netzsperren kaum benötigt zu werden. Es sei daher effektiver zu löschen, zumal die Sperren leicht umgangen werden könnten, sagte Koch-Skiba.
Der Beschwerdestelle zufolge finden sich die illegalen Inhalte zum großen Teil auch im normalen Web, allerdings auch im Darknet und auf Filesharing-Plattformen. Selbst das Usenet werde noch dafür genutzt. Auch über Messengerdienste würden Missbrauchsinhalte geteilt, sagte Koch-Skiba. Entsprechende Gruppen wurden von den Betreibern dann geschlossen.
Wie zuverlässig ist die Detektionstechnik?
Doch die EU-Kommission will das Auffinden von solchem Material nicht dem Zufall oder den Beschwerden von Nutzern überlassen. Sie setzt weiterhin auf Algorithmen, die neues oder bekanntes Material wo auch immer erkennen. Offenbar überzeugte die Kommission inzwischen schon die Mitgliedstaaten in Workshops davon, dass diese Technik trotz zu erwartender Fehlermeldungen funktioniere.
So heißt es in dem genannten Ratsdokument: "Die Workshops wurden von den Mitgliedstaaten sehr begrüßt und dafür gelobt, dass die dringend benötigten Klarstellungen dazu geliefert wurden, wie einige der vorgeschlagenen Bestimmungen in der Praxis funktionieren könnten, und dass die technische Durchführbarkeit des Vorschlags bestätigt wurde." Es sei offenbar möglich, gegen den sexuellen Missbrauch von Kindern im Internet vorzugehen. "Es gibt Technologien zur Aufdeckung von bekanntem und unbekanntem Online-Material über sexuellen Kindesmissbrauch" , heißt es.
Dabei setzt die EU-Kommission auf Verfahren wie Photo-DNA oder auf Künstliche Intelligenz (KI). Was deren Zuverlässigkeit betrifft, so verlässt sich Brüssel offenbar lediglich auf die Angaben von US-Konzernen wie Meta oder das Kinderschutzprojekt Thorn. Das geht aus einer Informationsfreiheitsanfrage (IFG)(öffnet im neuen Fenster) des früheren Europaabgeordneten Felix Reda hervor. Die Software Safer von Thorn nutzt auch perzeptuelle statt kryptografische Hashing-Algorithmen für die Erkennung von Inhalten.
Bundestagsdienst hält Pläne für grundrechtswidrig
Angesichts der genannten Probleme bei der Chatkontrolle kommt der Wissenschaftliche Dienst des Bundestages zu dem Schluss: "Es erscheint unwahrscheinlich, dass eine grundsätzliche Überwachung von Individualkommunikation der Überprüfung der (europäischen) Grundrechte standhalten würde. Zudem wäre eine Ausweitung der Überwachung auch auf andere Bereiche möglich und zu befürchten." In der Ausarbeitung (PDF) vom 7. Oktober 2022(öffnet im neuen Fenster) bescheinigt der Dienst dem Verordnungsentwurf "unverhältnismäßige Eingriffe" in die geprüften Grundrechte der Europäischen Grundrechtecharta.
Zudem seien "bislang viele Fragen und Anforderungen an die Chatkontrolle, insbesondere das konkrete Verfahren im Hinblick auf Ende-zu Ende verschlüsselte Dienste, noch offen geblieben und bedürfen der Klärung" . Vor dem Hintergrund der Entscheidungen des Europäischen Gerichtshofs (EuGH) zur Vorratsdatenspeicherung sei davon auszugehen, dass der Entwurf "in seiner aktuellen Fassung so nicht in Kraft treten dürfte" .
In einer aktuellen Stellungnahme(öffnet im neuen Fenster) wendet sich der Deutsche Anwaltverein (DAV) ebenfalls gegen die Pläne. Dabei stören sich die Juristen unter anderem daran, dass die EU-Kommission offenbar bei Scans auf Grooming-Inhalte von einer Falsch-Positiv-Rate von 10 Prozent ausgehe(öffnet im neuen Fenster) . "Unter solchen Voraussetzungen würden täglich milliardenfach Inhalte zu Unrecht als strafbar gemeldet" , kritisiert der DAV.
Wie verhält sich das Europaparlament?
Trotz dieser Bedenken hat es den Anschein, als sei derzeit nur im Europaparlament noch ernsthafter Widerstand gegen die Pläne zu erwarten. Dort musste sich EU-Innenkommissarin Ylva Johansson Anfang Oktober 2022 den kritischen Fragen der Abgeordneten stellen .
Die meisten Abgeordneten machten in ihren Statements klar, dass sie Bestrebungen zum Schutz vor Kindesmissbrauch prinzipiell unterstützten. Etliche von ihnen stellten jedoch die Verhältnismäßigkeit der sogenannten Chatkontrolle infrage. So verwies der Piratenpolitiker Patrick Breyer darauf, dass nur China eine solche Überwachung verlange. Die SPD-Politikerin Birgit Sippel vermisste Vorschläge zur Prävention in dem Entwurf der EU-Kommission.
Unterstützerin in Korruptionsskandal verwickelt
Zuletzt stellte sich heraus, dass eine Unterstützerin der Pläne, Vizeparlamentspräsidentin Eva Kaili, in einen Korruptionsskandal verwickelt ist. Nach Angaben Breyers(öffnet im neuen Fenster) bot sie Johansson und dem US-Schauspieler Ashton Kutcher, der auch Thorn unterstützt, eine Plattform und warb für die Chatkontrolle. "Sie hat jegliche Neutralität vermissen lassen und Politik im Amt gemacht" , kritisiert Breyer und fordert, Kailis Beteiligung an umstrittenen digitalen Gesetzesvorschlägen zu beleuchten.
Auch wenn es bei digitalen Gesetzen auf EU-Ebene durchaus schnell gehen kann, wie sich beim Digitale-Dienste-Gesetz gezeigt hat: Für die Chatkontrolle könnte es bis zur nächsten Wahl des Europaparlaments im Mai 2024 knapp werden. Wenn sich die Differenzen zwischen Parlament, EU-Kommission und Mitgliedstaaten als zu groß herausstellen, fällt der Entwurf am Ende dem Umstand zum Opfer, dass die neue Kommission das Thema anders angehen möchte.
Als großes Druckmittel bleibt der jetzigen Kommission dann nur noch die Drohung, dass die Erlaubnis zum freiwilligen Scannen, die im Juli 2021 beschlossen wurde , dann ohne Nachfolgeregelung auslaufen würde. Das müssten sich die Kommission und Mitgliedstaaten aber dann selbst vorwerfen lassen. Wer eine so bedenkliche Nachfolgeregelung präsentiert, darf sich nicht wundern, wenn sie an Widerstand von Politikern und Zivilgesellschaft scheitert.