Fragwürdige KI im Klette-Prozess: Blackbox im Gerichtssaal
Im Prozess gegen das mutmaßliche Ex-RAF-Mitglied Daniela Klette wird am 27. Mai 2026 das Urteil erwartet. Die Bundesanwaltschaft wirft ihr vor, gemeinsam mit Burkhard Garweg und Ernst-Volker Staub zahlreiche Raubüberfälle begangen zu haben. Klettes mutmaßliche Mitgliedschaft in der linksextremistischen Terrororganisation soll später in einem weiteren Verfahren verhandelt werden.
Zuständig für die Ermittlungen war die Sonderkommission Triangel. Vor mehr als einem Jahr begann vor dem Landgericht in Verden der Prozess gegen Klette. In dem Verfahren werteten Ermittlerinnen und Ermittler enorme Mengen an Daten aus. In Klettes Wohnung in Berlin-Kreuzberg hatten Polizei und Bundeskriminalamt rund 300 Datenträger mit bis zu 30 Terabyte Daten gefunden. Laut einem LKA-Vermerk, den Golem einsehen konnte, schätzte die Behörde den Umfang auf "6 Millionen Handyfotos oder einen Text von 18 Trillionen Zeichen".
Um diese Datenhalde zu durchstöbern, setzten die Behörden die Software Pathfinder der israelischen Firma Cellebrite ein. Die Firma ist weltweiter Marktführer für Anwendungen zur digitalen Forensik. Mit Pathfinder wurden Bilder, Chats, Kontakte und andere digitale Spuren miteinander verknüpft, um Auffälligkeiten zu finden. Das LKA nennt dazu in seinen Vermerken "Darstellungen von Personen, Fahrzeugen und nach Möglichkeit auch von Waffen und Geld".
Verteidigung um Suchbegriffe gebeten
Der Strafverteidiger Lukas Theune, der Klette gemeinsam mit Undine Weyers und Ulrich von Klinggräff vertritt, berichtete in der vergangenen Woche bei einer Veranstaltung der Digitalen Gesellschaft (Digiges) in Berlin detaillierter über den Einsatz der Software. Theune nannte Pathfinder dabei einen "Palantir Gotham-Abklatsch". Gemeint ist Software der US-Firma Palantir, die auch bei vier Landespolizeibehörden in Deutschland eingesetzt wird.
Nach Angaben Theunes erhielten die Ermittler im Klette-Verfahren eine ganztägige Schulung durch einen Mitarbeiter von Cellebrite. Zunächst habe das LKA aber Probleme mit den eigenen Serverkapazitäten gehabt. Andere Verfahrensdaten seien ausgelagert worden, um Platz für die Auswertung der digitalen Klette-Asservate zu schaffen.
Für die Auswertung der Daten legte die Soko Triangel dann umfangreiche Schlagwortlisten an. Gesucht wurde in dem von der Polizei beschlagnahmten Material unter anderem nach Begriffen wie "Coca-Cola", "McDonald's", "Pfefferspray" oder "Knüppel", ergänzt um Namen, Telefonnummern, Mailadressen und Daten aus Finanzermittlungen. Diese Informationen wurden mit Texten, Bildern und Videos aus den beschlagnahmten Geräten in Beziehung gesetzt.
Laut Theune fragte die Staatsanwaltschaft sogar an, ob die Anwälte eigene Schlagworte für die Auswertung beitragen wollten. Die Verteidigung habe dies abgelehnt und stattdessen Auskunft darüber verlangt, wie die eingesetzte KI funktioniere und welche Daten verarbeitet würden. Daraufhin seien lediglich einige interne Vermerke des LKA übersandt worden.
Treffer durch automatisierte Auswertung
Nach Darstellung des LKA wurde die KI-gestützte Analyse später wieder zurückgefahren. Man habe festgestellt, dass die Software "nicht zielführend" sei und sei zur klassischen Einzelauswertung durch Ermittler übergegangen. Theune äußerte daran Zweifel. Denn das LKA habe selbst erklärt, eine händische Sichtung sei praktisch unmöglich.
Theune schilderte beim Digiges-Abend auch einen konkreten Ermittlungserfolg, der wohl auf die Software zurückgeht: In Klettes Wohnung wurde eine sogenannte Passwortplombe gefunden, eine in den Fahrzeugschlüssel integrierte Wegfahrsperre aus den 1990er Jahren. Auf dem Teil befand sich eine Nummer, die Ermittler später einer Fahrzeugidentifikationsnummer zuordnen konnten.
Laut Theune ergab eine automatisierte Auswertung, dass das Fahrzeug 2015 im Zusammenhang mit einem Überfall auf einen Supermarkt in Osnabrück registriert worden war. Die Tat ist angeklagt.
Anwalt beklagt Verschiebung des Verfahrens zugunsten der Behörden
Die Anwälte legten gegen die Verwertung der KI-gestützten Analyse Widerspruch ein und argumentierten, für eine solche automatisierte Datenanalyse fehle bislang eine ausreichende gesetzliche Grundlage. Sie verwiesen auf Urteile des Bundesverfassungsgerichts aus dem Jahr 2023, mit denen Regelungen zur automatisierten Datenanalyse in Hessen und Hamburg teilweise für verfassungswidrig erklärt worden seien.
Das Gericht in Verden wies die Einwände zurück. Entscheidend sei, dass die Treffer anschließend von Ermittlerinnen und Ermittlern überprüft worden seien. Wenn sich etwa eine gefundene Fahrzeugnummer später manuell nachvollziehen lasse, spiele es keine Rolle mehr, ob der ursprüngliche Hinweis durch eine KI erzeugt worden sei.
Theune sieht darin eine Verschiebung des Strafverfahrens zugunsten der Ermittlungsbehörden. Die eigentliche Beweisaufnahme finde zunehmend bereits im Ermittlungsverfahren statt. Viele polizeiliche Vermerke würden im Prozess nur noch im sogenannten Selbstleseverfahren eingeführt und nicht mehr ausführlich in öffentlicher Verhandlung behandelt. Gleichzeitig seien die Datenmengen so groß, dass die Verteidigung sie praktisch nicht mehr vollständig prüfen könne.
Streit um Zugang zur Software
Die Rohdaten aus den verschiedenen Durchsuchungen umfassten laut Theune etwa 18 Terabyte. Laut einem Aktenvermerk habe das Einlesen über die Auswertesoftware rund eine Woche gedauert. Die Verteidigung habe anschließend lange um Zugang zu diesen Datenbeständen gestritten und schließlich lediglich die Rohdaten erhalten – eine immense Datenhalde, vor allem mit Fotos, die von den Anwälten kaum bearbeitet werden könne.
Alle Anträge der Verteidigung wurden abgelehnt. Das Gericht argumentierte, Pathfinder sei ein reines Ermittlungstool und daher den Behörden vorbehalten. Die Verteidigung müsse anhand der Ergebnisse lediglich überprüfen können, ob korrekt ermittelt worden sei. Auch Anträge, den federführenden Polizeibeamten als Zeugen zum Einsatz der Software zu hören, blieben erfolglos.
Dadurch sei es praktisch unmöglich geworden, systematisch nach entlastendem Material in den beschlagnahmten Daten zu suchen, erklärte Klettes Anwalt Theune. Ähnlich sieht es auch die Nichtregierungsorganisation Algorithm Watch, die klare gesetzliche Regeln für KI-Systeme in der Strafverfolgung fordert.
Hochrisikoanwendungen müssten transparent und überprüfbar sein, zudem brauche es unabhängige Folgenabschätzungen. Der Einsatz proprietärer Systeme wie Pathfinder berühre zentrale rechtsstaatliche Prinzipien, wenn weder Gerichte noch Verteidigung nachvollziehen könnten, wie Treffer zustande kämen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.