Tröja som lurar AI-övervakning

Designern Simon Weckert har skapat Digital Camouflage, en färgglad tröja utformad för att göra bäraren osynlig för AI-baserad videoövervakning. Projektet är ett svar på ett försök med AI-övervakning vid Kottbusser Tor i Berlin.

Tröjan utnyttjar svagheter i hur AI identifierar människor. Istället för att dölja ansiktet använder mönstret mättade färgövergångar och överlappande former som bryter kroppens konturer. Det gör att detektorn inte längre känner igen silhuetten som en person.

Mönstret utvecklades genom en så kallad ”adversarial loop”, där AI-systemet själv fick testa olika mönsterkandidater tills systemets förmåga att identifiera människan kollapsade. Weckert testade tröjan mot objektidentifieringssystemet Yolo. Resultatet är ett plagg som upplevs som ett hypnotiskt textilkonstverk för det mänskliga ögat, men som gör bäraren helt osynlig för AI-modellen.

Källa: https://www.simonweckert.com/digitalcamouflage.html

Bild: Simon Weckert