Schüler wegen Doritos verhaftet: KI-System verwechselt Chipstüte mit Schusswaffe
An einer Highschool im US-amerikanischen Baltimore County (Maryland) wurde ein Schüler verhaftet und durchsucht, weil ein KI-basiertes Sicherheitssystem in seinen Händen eine Schusswaffe erkannt haben will. Tatsächlich handelte es sich aber lediglich um eine Tüte Chips der bekannten Marke Doritos, wie unter anderem der Guardian(öffnet im neuen Fenster) unter Verweis auf einen US-TV-Sender berichtet.
Der Vorfall ereignete sich den Angaben zufolge an der Kenwood-Highschool in Baltimore. Der Schüler soll gerade mit seinen Freunden vor der Schule gesessen und seine Chips gegessen haben, als plötzlich bewaffnete Polizisten auf ihn zukamen, ihn auf die Knie zwangen und ihm Handschellen anlegten.
Die Einsatzkräfte sollen den Jungen auch durchsucht, dabei jedoch die erwartete Waffe nicht gefunden haben. Den Angaben zufolge zeigten sie ihm anschließend eine Kopie des Bildes, das den Alarm ausgelöst hatte. "Ich hielt nur eine Tüte Doritos in den Händen – mit beiden Händen und einem Finger ausgestreckt – und sie sagten, das sähe aus wie eine Waffe" , erklärte der Schüler.
Polizei trotz Entwarnung gerufen
Einem CNN-Bericht(öffnet im neuen Fenster) zufolge erschienen die Einsatzkräfte mit insgesamt acht Polizeiautos an der Schule. Die Polizeibehörde von Baltimore County bestätigte den Vorfall und erklärte, es habe "eine Meldung über eine verdächtige Person mit einer Waffe" gegeben. Die Polizisten hätten bei der Durchsuchung jedoch festgestellt, dass die Zielperson unbewaffnet gewesen sei.
Omnilert, der Hersteller des involvierten KI-Waffenerkennungssystems, drückte in einer Stellungnahme sein Mitgefühl gegenüber den Betroffenen aus, betonte aber auch, sein System sei nur darauf ausgelegt, mögliche Bedrohungen zu identifizieren. Die Ergebnisse seien jedoch stets von einem Menschen zu überprüfen.
Die Schulleiterin der Kenwood-Highschool erklärte in einer Nachricht an die Eltern der Schüler, die Sicherheitsabteilung des Schulbezirks habe die Waffenwarnung eigentlich geprüft und zurückgezogen. Jedoch habe die Schulleitung nicht sofort erkannt, dass der Alarm aufgehoben worden war und daher bei der örtlichen Polizei Unterstützung angefordert.