Entscheidung bleibt in menschlicher Hand
"PrismX trifft keinerlei Entscheidungen," betont Sairaj Balaji. "Die Risikoeinschätzungen sollen Psychologen, Fahndern oder Strafverfolgungsbehörden nur als Hinweis dienen, um möglicherweise Maßnahmen einzuleiten. Das Tool selbst liefert nur strukturierte Erkenntnisse, die durch Menschen verantwortungsbewusst interpretiert werden können."
Die Software verfügt sogar über eine Funktion, bei der ein KI-Chatbot versucht, Kontakt mit einer verdächtigen Person aufzunehmen. Der Bot besitzt zwei Hauptfunktionen: Dialog-Aktionsklassifizierung und adaptive Sprachmodelle. Die erste Komponente analysiert, was eine Person sagt, und wie sie es sagt. Die zweite passt daraufhin Tonfall und Ansprache des KI-Chatbots an die erkannten emotionalen Zustände an.
Dabei geht es um Deradikalisierung – aber nicht nur. Der Chatbot könnte gleichzeitig wertvolle nachrichtendienstliche Informationen sammeln, die auf anderem Weg nicht verfügbar wären. Nutzer geben in vermeintlich privaten Gesprächen oft mehr preis, als sie öffentlich mitteilen würden. An dieser Stelle ergibt sich ein Dilemma: Bei anderer Konfiguration des KI-Algorithmus ließe sich die Wirkung ins genaue Gegenteil umkehren, die Radikalisierung würde also verstärkt. Daher setzte Sairaj Balaji sein KI-Modell, das psychologische Verhaltensmuster erkennen soll, auch nur in einer geschlossenen Testumgebung ein.
Der Student hat derzeit kein Interesse, seine KI-Software zu verbreiten. "Wenn PrismX in ähnlicher Form ohne Verantwortlichkeit kommerzialisiert oder militärisch genutzt wird, besteht eine große Gefahr von missbräuchlicher Nutzung. Dabei könnten Menschen zu Unrecht beschuldigt werden."
Software soll ethische Debatte anstoßen
Sairaj Balaji geht es bei seinem Hobbyprojekt um etwas anderes. PrismX solle aufzeigen, was technisch mithilfe von KI bereits möglich sei. "Ich möchte damit eine ernsthafte ethische Debatte anstoßen, bevor Menschen mit böswilligen Absichten so eine Software im Verborgenen entwickeln." Er sei offen für Gespräche mit Strafverfolgungsbehörden, anerkannten privaten Sicherheitsunternehmen und unabhängigen KI-Experten, um PrismX im Sinne der guten Sache weiterzuentwickeln.
Ihm sei bewusst: Das Potenzial, um mit der Software beispielsweise Terroristen, Drogen- und Menschenhändler oder Pädokriminelle aufzuspüren, bevor sie Straftaten begingen, sei groß – doch in falschen Händen gelte das umgekehrt auch für die Möglichkeiten des Missbrauchs.
"Wenn ich nur darüber einen Blogpost verfasst hätte, zu welchen Dingen KI im Bereich der psychologischen Bewertung von menschlichen Aussagen möglich ist, hätte das niemanden interessiert. Erst durch meinen funktionsfähigen Prototyp haben die Medien angefangen, sich für das Thema zu interessieren," erklärt Sairaj Balaji.
Ob PrismX eines Tages tatsächlich dabei hilft, Personen, die sich radikalisieren, in der digitalen Welt aufzuspüren, ist völlig offen. Der Informatikstudent will sein Programm nicht veröffentlichen oder als Open-Source-Software zur freien Nutzung zur Verfügung stellen. Allerdings hat Sairaj Balaji großes Interesse, durch die weltweite Berichterstattung über PrismX die Aufmerksamkeit von Ermittlungsbehörden und entsprechenden Organisationen zu gewinnen, um mit ihnen ins Gespräch und in den Austausch zu kommen.