KI-Überwachung: Farbenfrohes Camouflage-Shirt soll Kamerasystem überlisten
Der Berliner Künstler Simon Weckert hat ein farbenfrohes Hemd namens Digital Camouflage(öffnet im neuen Fenster) entworfen, das verhindern soll, dass Träger von KI-Videosystemen erkannt werden. Wie Dezeen, ein Onlinemagazin für Architektur, Innenarchitektur und Design, berichtet(öffnet im neuen Fenster), war der Anlass für den Entwurf das Pilotprojekt zur KI-gestützten Videoüberwachung am Kottbusser Tor in Berlin.
Gegenüber dem Magazin sagte Weckert, KI-Systeme hätten nie gelernt, was ein Mensch wirklich sei, sondern lediglich, wie diese basierend auf statistischen Mustern aus Millionen von Trainingsbildern wahrscheinlich aussähen.
Da KI‑Systeme zunächst Kanten, Kontraste und Texturgradienten erfassten, führe ein optimiertes Zusammenspiel von Farben und Mustern auf einem Hemd dazu, dass KI gar nicht erst zu den tieferen Schichten vordringe, in denen etwa nach Silhouetten von Köpfen und Schultern gesucht werde.
Muster mithilfe von KI entwickelt
Während die gesättigten Farbübergänge die frühen Schichten des KI-Überwachungssystems intensiv ansprächen, führten die überlappenden Formen dazu, dass die Kontinuität der Körperumrisse unterbrochen werde, sagte Weckert. Ein Detektor sei dadurch nicht mehr in der Lage, die einzelnen Körperteile zu einer zusammenhängenden Figur zu verknüpfen.
Der Künstler entwickelte das Muster mithilfe einer künstlichen Intelligenz in einem sogenannten Adversarial Loop (gegnerischen Schleife). Hierbei wurde ein Entwurf generiert, dem Detektor gezeigt, die Erkennungswahrscheinlichkeit gemessen, das Muster angepasst und der Vorgang so oft wiederholt, bis die Erkennungsrate kollabierte.
Getestet wurde das Hemd mit Yolo, einem quelloffenen Echtzeit-Objekterkennungssystem. Da bundesweit und auch in Berlin keine unabhängige Evaluation der Systeme vorgesehen ist, kann Weckert allerdings nicht überprüfen, ob sein Camouflage-T-Shirt die KI am Kottbusser Tor tatsächlich überlistet.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.