Проект noRecognition проверил узоры против камер Flock
Исследователь Билл Свиринген заявил, что после примерно 31 млн тестов его проект noRecognition научился создавать узоры, мешающие камерам распознавать объекты, людей и лица. На конференции Def Con в Лас-Вегасе он оклеил таким рисунком Toyota Yaris 2009 года и сообщил, что камера Flock не обнаружила автомобиль.
Не невидимость, а сбой обнаружения
Разработка не прекращает видеозапись и не скрывает объект из кадра. Её задача — нарушить работу алгоритма обнаружения: камера продолжает фиксировать изображение, но не формирует сигнал о найденном человеке, машине или лице.
Именно такие алгоритмы позволяют операторам камер искать интересующие события в большом массиве видеоматериалов. Они применяются, в частности, для чтения номерных знаков и задач распознавания лиц.
Свиринген называет свой подход способом отказаться от автоматического отслеживания. Идея возникла у него из опасений, что плотная сеть камер может фиксировать людей, участвующих в публичных мероприятиях и реализующих право на свободное выражение мнения.
Как обучалась модель
Сначала автор собрал тестовую среду и последовательно проверял узоры против открытых алгоритмов видеоаналитики. Затем он увеличил вычислительные ресурсы и превратил эксперимент в модель обучения с подкреплением.
При каждой неудаче, когда алгоритм распознавал покрытый узором объект, модель создавала новый вариант. По словам Свирингена, со временем она нашла комбинации, которые обходили все 11 протестированных открытых алгоритмов одновременно.
В числе систем, с которыми он сопоставлял результаты, названы ПО для считывателей номеров Flock, нательные камеры Axon и камеры с Clearview AI. Автор также утверждает, что модель генерирует новые рисунки каждую минуту и оценивает новые варианты как математически более эффективные.
Публичная проверка и ограничения
Полевой тест с Toyota проводился при участии Donut Media. Свиринген отметил, что колёса машины оказались отдельной сложностью, однако в целом демонстрация подтвердила эффективность покрытия против камеры Flock. Donut Media планирует выпустить видео опыта в ближайшие недели.
Проект намерен предлагать ранние товары с такими рисунками, включая футболки и худи, а в перспективе — покрытия для автомобилей. При этом самые сильные варианты Свиринген не выкладывает в интернет, чтобы разработчики камер не получили возможность подготовить контрмеры.
Для бизнеса этот эксперимент показывает важное ограничение видеоаналитики: автоматическое обнаружение в кадре не тождественно гарантированной идентификации. В процессах, где решение зависит от сигнала камеры, стоит предусматривать дополнительную проверку, а не полагаться на один алгоритмический результат.