YOLOv2 — сокращение от слов «Вы смотрите только один раз» — это система обнаружения объектов и персонажей в режиме реального времени. Оказывается, вы можете обмануть его в детской игре.
Исследователи из Католического университета Лёвена продемонстрировали, как маленькое квадратное изображение с цветными элементами можно использовать в качестве шапки невидимости для детекторов, работающих под контролем ИИ. Такие, как YOLOv2, становятся все более распространенными в системах мониторинга ( CNN ), а также позволяют распознавать людей на фотографиях или в видеозаписях. Детекторы узнают, как люди выглядят, анализируя тысячи фотографий. Эти исследователи, а именно Симен Тис, Вибе Ван Ранст и Тун Гёдем, обнаружили, что их легко одурачить. Все, что вам нужно, это картон размером 40 х 40 см или лист бумаги, покрытый разноцветными полосами, и он готов — как показано в записи ниже.
Как они писали, они потратили некоторое время, чтобы найти наименьший размер изображения, при котором детекторы будут обмануты. Как оказалось, это 40 х 40 см . Прежде чем они поделились своим открытием с миром, было проведено много тестов, нацеленных на детекторы для людей, держащих карточки с цветными картинками. «Система мошенничества» не совсем идеальна, но в подавляющем большинстве случаев удержание изображения в руках заставляет камеру не узнавать человека. Это беспокоит, потому что это позволяет, например, мирный переход рядом с камерой грабителя — если она имеет изображение правильных размеров, система мониторинга не будет распознавать человека и не будет поднимать тревогу. Более того — футболка или толстовка с соответствующими рисунками могут дать тот же эффект. Тем не менее, это не совсем плохо — как вы видите на записи, когда изображение было под определенными углами, распознавание символов работало правильно. Теперь исследователи хотят разработать программный патч, который устранит этот вид «плаща-невидимки».
Стоит напомнить, что в 2016 году были показаны очки, созданные на 3D-принтере, что помешало распознаванию лиц электронными системами. Так что, как видно из приведенных выше примеров, ИИ должен еще немного научиться.
