Treffer durch automatisierte Auswertung
Nach Darstellung des LKA wurde die KI-gestützte Analyse später wieder zurückgefahren. Man habe festgestellt, dass die Software "nicht zielführend" sei und sei zur klassischen Einzelauswertung durch Ermittler übergegangen. Theune äußerte daran Zweifel. Denn das LKA habe selbst erklärt, eine händische Sichtung sei praktisch unmöglich.
Theune schilderte beim Digiges-Abend auch einen konkreten Ermittlungserfolg, der wohl auf die Software zurückgeht: In Klettes Wohnung wurde eine sogenannte Passwortplombe gefunden, eine in den Fahrzeugschlüssel integrierte Wegfahrsperre aus den 1990er Jahren. Auf dem Teil befand sich eine Nummer, die Ermittler später einer Fahrzeugidentifikationsnummer zuordnen konnten.
Laut Theune ergab eine automatisierte Auswertung, dass das Fahrzeug 2015 im Zusammenhang mit einem Überfall auf einen Supermarkt in Osnabrück registriert worden war. Die Tat ist angeklagt.
Anwalt beklagt Verschiebung des Verfahrens zugunsten der Behörden
Die Anwälte legten gegen die Verwertung der KI-gestützten Analyse Widerspruch ein und argumentierten, für eine solche automatisierte Datenanalyse fehle bislang eine ausreichende gesetzliche Grundlage. Sie verwiesen auf Urteile des Bundesverfassungsgerichts aus dem Jahr 2023, mit denen Regelungen zur automatisierten Datenanalyse in Hessen und Hamburg teilweise für verfassungswidrig erklärt worden seien.
Das Gericht in Verden wies die Einwände zurück. Entscheidend sei, dass die Treffer anschließend von Ermittlerinnen und Ermittlern überprüft worden seien. Wenn sich etwa eine gefundene Fahrzeugnummer später manuell nachvollziehen lasse, spiele es keine Rolle mehr, ob der ursprüngliche Hinweis durch eine KI erzeugt worden sei.
Theune sieht darin eine Verschiebung des Strafverfahrens zugunsten der Ermittlungsbehörden. Die eigentliche Beweisaufnahme finde zunehmend bereits im Ermittlungsverfahren statt. Viele polizeiliche Vermerke würden im Prozess nur noch im sogenannten Selbstleseverfahren eingeführt und nicht mehr ausführlich in öffentlicher Verhandlung behandelt. Gleichzeitig seien die Datenmengen so groß, dass die Verteidigung sie praktisch nicht mehr vollständig prüfen könne.
Streit um Zugang zur Software
Die Rohdaten aus den verschiedenen Durchsuchungen umfassten laut Theune etwa 18 Terabyte. Laut einem Aktenvermerk habe das Einlesen über die Auswertesoftware rund eine Woche gedauert. Die Verteidigung habe anschließend lange um Zugang zu diesen Datenbeständen gestritten und schließlich lediglich die Rohdaten erhalten – eine immense Datenhalde, vor allem mit Fotos, die von den Anwälten kaum bearbeitet werden könne.
Alle Anträge der Verteidigung wurden abgelehnt. Das Gericht argumentierte, Pathfinder sei ein reines Ermittlungstool und daher den Behörden vorbehalten. Die Verteidigung müsse anhand der Ergebnisse lediglich überprüfen können, ob korrekt ermittelt worden sei. Auch Anträge, den federführenden Polizeibeamten als Zeugen zum Einsatz der Software zu hören, blieben erfolglos.
Dadurch sei es praktisch unmöglich geworden, systematisch nach entlastendem Material in den beschlagnahmten Daten zu suchen, erklärte Klettes Anwalt Theune. Ähnlich sieht es auch die Nichtregierungsorganisation Algorithm Watch, die klare gesetzliche Regeln für KI-Systeme in der Strafverfolgung fordert.
Hochrisikoanwendungen müssten transparent und überprüfbar sein, zudem brauche es unabhängige Folgenabschätzungen. Der Einsatz proprietärer Systeme wie Pathfinder berühre zentrale rechtsstaatliche Prinzipien, wenn weder Gerichte noch Verteidigung nachvollziehen könnten, wie Treffer zustande kämen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.