Как мода бросает вызов алгоритмам нейросетей

Система распознавания лиц – наша новая реальность, против которой возражают в ООН, голосуют в Европарламенте и собирают подписи на сайте banfacialrecognition.com. Но можно не дожидаться решений чиновников и самим позаботиться о своей конфиденциальности, купив худи (платье, свитер), способные помешать нейросети идентифицировать их носителей. Итальянский бренд Cap_able создал узор, который заставляет искусственный интеллект думать, что в объективе камеры – не человек, а животное. «Курсив» разбирался в вопросе: какие приемы предлагались и предлагаются для того, чтобы обмануть системы наблюдения.

Паранджа антидрон

В 2010 году американский художник и исследователь Адам Харви запустил проект CV Dazzle (Computer Vision Dazzle, можно перевести как «ослепление компьютерного зрения»), назвав свою разработку «разновидностью камуфляжа». По мнению Харви, лица или другие объекты могут быть видимыми для людей и невидимыми для машин, главное – сделать правильные прическу и макияж. Например, затемнить область переносицы, «спрятать» глаза, нарушить симметрию лица и т. д. Кроме того, можно использовать модные аксессуары («недорогие»  –  подчеркивает Харви), которые помогут не только обмануть камеры, но и создать собственный стиль. Проект на стыке технологий, искусства и моды включает в себя как «лукбуки» (съемку образов), так и коды – с их помощью можно убедиться в эффективности предлагаемых вариантов.

Через пару лет Адам Харви решил продолжить тему и вместе с дизайнером из Нью-Йорка Джоанной Блумфильд сделал коллекцию Stealth Wear («одежда для невидимости»). Сшитые из металлизированной ткани, отражающей тепловое излучение, эти модели, по словам Харви, возникли в результате размышлений о традиционной мусульманской одежде. Одна из вещей так и называется – «антидроновая бурка», она сконструирована по образу и подобию чадры (паранджи) в сочетании с бейсболкой: по задумке Харви, дрон с тепловизором не заметит человека в такой одежде. Как сказано на сайте художника, в Stealth Wear он «продолжает исследовать эстетику конфиденциальности и способность моды бросить вызов авторитарным технологиям наблюдения».

И если о возможностях практического использования идей исследователя можно спорить, то их художественная ценность очевидна: ими интересуются самые известные музеи мира. «Сегодняшнее селфи – это биометрический профиль завтрашнего дня», – этой фразой из проекта Харви Think Privacy («Подумайте о конфиденциальности») встречали участников Friday Late – мероприятия в лондонском Музее Виктории и Альберта в 2017 году, а не менее хлесткие «Данные никогда не умирают» и «Все, что вы говорите или делаете, может и будет использоваться против вас в таргетированной рекламе» из той же серии можно было увидеть на Seoul Mediacity Biennale в 2018-м и так далее.

И, наконец, у Адама Харви есть последователи. Одни из самых известных – группа Dazzle Club, организованная в 2020 году художницами из Великобритании Анной Харт, Эмили Родерик, Эви Прайс и Джорджиной Роулэндс: протестуя против «тотальной слежки», девушки раз в месяц гуляют по Лондону с раскрашенными – в духе супрематизма – лицами. Это «ломает» линии лиц и не дает камерам распознать их, считают художницы.

«Мы сделали себя заметными, чтобы спрятаться», – сказала Эмили Родерик в интервью The Guardian.

Уже в 2020 году в Лондоне было больше 600 тыс. камер наблюдения, и средний житель города попадал в их объективы около 300 раз в день.

Боевой раскрас

Примерно через семь лет после появления проекта CV Dazzle Григорий Бакунов, тогда один из руководителей российской IT-компании «Яндекс», сообщил в своем блоге, что они с друзьями «придумали, сделали, но не запустили проект» – как ответ на массовое применение систем распознавания лиц в Москве. Группа технарей (Бакунов подчеркивал, что «Яндекс» не имел отношения к разработке) создала алгоритм, который анализировал лицо пользователя и, в отличие от проекта Адама Харви, предлагал не заморачиваться с прическами и украшениями, а просто делать нечто вроде «боевого раскраса» индейцев или викингов – впрочем, создатели тоже предпочитали называть его макияжем.

«Достаточно нескольких линий футурис­тичного макияжа на лице, – писал Григорий Бакунов,  – чтобы даже самые популярные личности перестали однозначно идентифицироваться алгоритмами».

Эту часть проекта воплощала профессиональная художница, но, судя по фотографиям, при желании любой человек мог научиться переносить созданный алгоритмом рисунок на свое лицо. Бакунов писал, что поставить проект на коммерческие рельсы было бы несложно, но, по зрелому размышлению, они с друзьями решили отказаться от этой идеи, чтобы их разработку не стали использовать в разных неблаговидных целях – в том числе криминальных.

Оставался открытым вопрос: да, специальный макияж может обмануть камеры – но как к нему отнесутся окружающие люди? И не в Европе, как в случае с британскими художницами, а в странах постсоветского пространства? Ответ был получен в феврале 2020 года, когда в Москве прошла акция «Следуй»: арт-активис­ты собрались около администрации президента и начали делать грим против распознавания лиц, намереваясь в таком виде прогуляться по городу. Им это не удалось – почти сразу появилась полиция и задержала четырех участников акции.

Как написала в своем Instagram художница и правозащитница Катрин Ненашева: «Нас задержали ровно за то, что ребята водили зелеными и синими красками по моему лицу».

Худи-невидимка

У всех вышеперечисленных способов есть как минимум два существенных недостатка. Первый – вам понадобится некоторое количество времени, чтобы сделать макияж, и второй – на вас обязательно будут обращать внимание, как при полном «боевом раскрасе», так и в бурке или шарфе Stealth Wear – их никак не назовешь обычными. Хотелось «чего попроще», что можно просто надеть или накинуть на себя перед выходом из дома (например, «плащ-невидимку») и уже не беспокоиться о камерах видеонаблюдения.

В августе 2020 года исследователи Университета Мэриленда (США) и Facebook сообщили о разработке моделей – правда, не плащей, но худи, способных сделать вас невидимыми для некоторых систем наблюдения. Проанализировав с помощью алгоритма обнаружения около 10 тыс. изображений людей, ученые искажали их (меняя перспективу, яркость, контраст) и уже с помощью другого алгоритма решали, какие изменения лучше обманывают нейросети. Полученные таким образом картинки были использованы в качестве рисунков для худи  (получились принты «вырви глаз»). Но исследователи сразу предупредили, что их изобретение небезупречно и они не могут дать гарантию полной «невидимости» для камер наблюдения, хотя картинка из презентации впечатляла: нейросеть опознала и отметила пресловутыми квадратиками всех людей в аудитории, кроме мужчины в центре – на нем было то самое худи.

А ровно через два года, в августе 2022-го, стартап Cap_able из итальянского Турина провел в Нью-Йорке мероприятие, посвященное американскому запуску линии одежды Manifesto – полноценной трикотажной коллекции, куда вошли свитера, футболки, брюки, худи и платья.

Снова – научно-исследовательская работа и снова проект на стыке моды и технологий. Главное отличие разработки Cap_able от предыдущих: до сих пор принты, способные сбить с толку программное обеспечение для распознавания лиц, печатались на одежде, а в данном случае рисунок выполнен специальным запатентованным методом трехмерного вязания. «Этот метод, – сказано на сайте марки, – позволяет внедрить необходимый алгоритм в саму ткань одежды и при этом, надев ее, вы будете выглядеть стильно».

Последнее утверждение, впрочем, достаточно спорно – рисунок на моделях Manifesto не уступает по своей пестроте и яркости принтам, предложенным командой из Университета Мэриленда, но зато эта одежда уже в продаже. 285 евро (это со скидкой) за футболку, которая убедит камеру распознавания лиц в том, что вы, скажем, собака, 420 евро (изначальная цена – 560) за свитер, в котором вас примут за жирафа, 480 евро (обычная цена – 640) – за длинное платье, от которого если не у камер, то у окружающих точно будет рябить в глазах и т. д.

Как сказали основатели бренда Рашель Дидеро и Федерика Бусани, их разработка успешно прошла проверку с помощью YOLO (You Only Look Once), нейронной сети, что идентифицирует объекты на видео в режиме реального времени.

И, наконец, почему – Manifesto? По мнению команды Cap_able, их разработка – это не только «щит от камер с искусственным интеллектом», но и манифест, которым они заявляют о праве человека на неприкосновенность частной жизни. То есть все то же – Think Privacy («Подумайте о конфиденциальности»).