noRecognition testira granice automatskog video-nadzora
Bill Swearingen je nakon približno 31 milion testova predstavio projekat noRecognition, računarski generisane obrasce koji mogu da spreče pojedine kamere za nadzor i čitače registarskih tablica da automatski prepoznaju ono što obrazac prekriva. Na konferenciji Def Con u Las Vegasu demonstrirao je obrazac na automobilu Toyota Yaris iz 2009. godine i naveo da Flock kamera nije detektovala vozilo.
Reč nije o blokiranju same kamere niti o uklanjanju snimka. Kamera i dalje beleži video, ali algoritam može da propusti prepoznavanje osobe, predmeta, lica ili vozila. Posledica je da sistem ne aktivira upozorenje zasnovano na detekciji, pa snimljeni sadržaj ostaje među velikom količinom materijala bez automatskog izdvajanja.
Model uči koje vizuelne smetnje prolaze detekciju
Swearingen je počeo sa laboratorijskim dokazom koncepta i postupno testirao obrasce protiv video-algoritama otvorenog koda. Kako je povećavao raspoloživu računarsku snagu, projekat je prerastao u model učenja potkrepljivanjem. Model ponavlja pokušaje: kada algoritam prepozna obrazac, sistem generiše novu varijantu i nastavlja testiranje.
Prema njegovim navodima, model je pronašao obrasce koji su istovremeno zaobišli svih 11 testiranih algoritama otvorenog koda. Među pomenutim sistemima su softver koji pokreće Flock čitače tablica, kamere koje se nose na telu kompanije Axon i kamere sa Clearview AI. Autor kaže da model generiše nove obrasce svakog minuta i da svaka neuspešna varijanta poboljšava naredne pokušaje.
Terenski test i ograničenja demonstracije
Za javni test na Def Conu korišćen je automobil prekriven jednim od novijih obrazaca. Swearingen je uz pomoć Donut Media proveravao da li Flock kamera može da detektuje vozilo. Naveo je da je demonstracija bila uspešna, uz napomenu da su točkovi predstavljali problem. Donut Media je najavio objavljivanje snimka testa narednih nedelja.
Dosadašnji rezultat pokazuje da je moguće uticati na automatsku analizu video-zapisa u javnom prostoru, ali ne i da je osoba ili vozilo nestalo sa snimka. Swearingen najjače obrasce ne objavljuje na internetu kako bi otežao proizvođačima kamera da ih prilagode i neutrališu njihov efekat.
Šta ovaj slučaj znači za organizacije
Za kompanije i javne institucije koje se oslanjaju na video-analitiku, noRecognition je praktičan podsetnik da detekciju ne treba poistovetiti sa potpunom vidljivošću. Automatizovana upozorenja mogu propustiti relevantan događaj čak i kada kamera uredno snima. Operativni procesi zato treba da razlikuju dokazni video-zapis od izlaza algoritma i da ne zasnivaju kritične odluke samo na automatskom prepoznavanju.