Компания Amazon сообщила о том, что приостанавливает использование правоохранительными органами США своей системы распознавания лиц, внеся, таким образом, свою лепту в общие усилия компаний, законодателей и борцов за гражданские права, выступающих с призывами ужесточить контроль за использованием технологий видеослежения на фоне растущей обеспокоенности по поводу их потенциальной необъективности.
Технология распознавания лиц уже давно подвергается критике из-за своей необъективности. Как показывают исследования, большинство алгоритмов в большей степени склонны допускать ошибки в идентификации лиц афроамериканцев и представителей других нацменьшинств, нежели европеоидов. Эти опасения усилились после того, как тактика полиции и использование этой технологии правоохранительными органами стали объектом всеобщего внимания на фоне развернувшихся по всей стране протестов, вспыхнувших из-за убийства чернокожего мужчины Джорджа Флойда, погибшего сразу после задержания полицией.
Для технологических компаний, протесты и выражение поддержки движению Black Lives Matter – это еще одна причина порефлексировать на тему того, какую роль их продукты и сервисы играют сегодня в обществе.
На прошлой неделе глава Facebook Марк Цукерберг заявил о том, что его компания намерена пересмотреть свое отношение к обсуждению полицией вопросов применения силы и будет стремиться включить в процесс принятия управленческих решений представителей различных этнических групп. Со своей стороны, глава Amazon Джефф Безос назвал критику в свой адрес из-за поддержки движения Black Lives Matter «тошнотворной».
Компания-гигант розничной торговли сообщила, что выступает за строгий контроль за использованием технологий распознавания лиц, и очевидно Конгресс готов принять этот вызов. «Надеемся, что годичный мораторий даст Конгрессу достаточно времени для принятия необходимых правил, и мы готовы оказать содействие, если это потребуется», — сообщила компания Amazon в среду в своем блоге. Однако о каких действиях может идти речь не уточняется.
Законопроект о реформе полиции, внесенный в понедельник демократами на рассмотрение Палаты представителей предусматривает запрет на использование федеральными правоохранительными органами технологии распознавания лиц в реальном времени.
Впрочем, ряд активистов считает, что одного этого положения недостаточно. Ниима Гулиани, главный советник по вопросам законодательства Американского союза защиты гражданских свобод, уверена, что должен быть внедрен законодательный запрет на любое использование технологии распознавания лиц по фрагментам видеосъемки, осуществленной при помощи носимых полицейских видеорегистраторов. Также она призвала ограничить финансирование из федерального бюджета местных правоохранительных ведомств, не ограничивающих использование технологии подобным образом.
Ранее Amazon активно продавал свою систему распознавания лиц Rekognition, в том числе полицейским управлениям и другим правоохранительным органам в США. По сообщению компании, для организаций, которые используют распознавание лиц для борьбы с незаконным трафиком людей и для поиска пропавших детей, доступ к технологии сохранится.
Другая компания International Business Machines Corp. в начале недели сообщила, что прекращает разработку и продажу программного обеспечения для распознавания лиц. Этому шагу предшествовала продолжительная критика по поводу того, что подобные технологии являются менее точными в отношении афроамериканцев и представителей других меньшинств, нежели в отношении европеоидов.
В понедельник новый глава IBM Арвинд Кришна уведомил Конгресс об этом решении в своем письме, в котором также выступил за реформу полиции и расширение образовательной поддержки для темнокожих. Эта инициатива последовала за массовыми демонстрациями против того, что активисты и политики с осуждением назвали институциональным расизмом в полиции США,
«Полагаю, сейчас самое время начать национальный диалог о том, как технология распознавания лиц должна использоваться правоохранительными органами и должна ли она использоваться вообще», — написал Кришна в своем письме, адресованном пяти членам Конгресса от Демократической партии, четверо из которых являются афроамериканцами.
«Искусственный интеллект – это мощное средство, которое может помочь правоохранительным органам обеспечить безопасность граждан. Однако вендоры и пользователи систем ИИ несут общую ответственность за то, чтобы ИИ был проверен на непредвзятость, в особенности, когда система используется правоохранительными органами, как и то, что такая проверка на непредвзятость зафиксирована и прошла соответствующий аудит», — отмечает он.
Компания IBM разрабатывала продукты по распознаванию лиц в течение многих лет прежде чем в этом году решила отказаться от технологии. В прошлом году в ответ на растущую обеспокоенность по поводу необъективности технологии компания выпустила набор обучающих изображений для алгоритмов распознавания лиц, разработанных с целью сделать их более точными. Также компания призвала обеспечить контроль за технологией, а не запрещать ее полностью.
Благодаря развитию алгоритмов и появлению сверхбыстрых компьютеров точность распознавания лиц за последние годы серьезно возросла. Однако по мере расширения сферы применения технологии, которая уже стала популярным способом для разблокировки смартфонов и совершения цифровых платежей, исследователи и активисты начали бить тревогу по поводу присущей этой системе расовой и гендерной предвзятости.
В знаковом исследовании, проведенном два года назад, исследователи Массачусетского технологического института выявили значительные различия в точности систем распознавания лиц, включая технологии IBM и Microsoft, в зависимости от пола и цвета кожи. Факт необъективности позже подтвердили и серьезные научные исследования, включая обширное исследование, проведенное в декабре прошлого года при финансовой поддержке правительства. Также было доказано, что подобное программное обеспечение является менее точным и в отношении женщин.
Тогда технологические компании заняли разные позиции относительно того, как нужно использовать системы распознавания лиц. Компания Amazon, защищавшая свой продукт под названием Rekognition от обвинений в необъективности, продолжила предлагать его правоохранительным органам.
Другой крупный производитель программного обеспечения для распознавания лиц – Microsoft — заявил о том, что относится к технологии с большой осторожностью. В прошлом году президент компании Брэд Смит рассказал о том, что компания отказалась продавать продукт полицейскому управлению в Калифорнии из-за опасений, что оно будет использовано для массовой слежки.
По всей Америке компании пытаются отреагировать на настроения в обществе, вызванные гибелью Джорджа Флойда. Компания Paramount Network (принадлежит ViacomCBS Inc.) прекратила съемки своего долгоиграющего реалити-шоу «Копы». В среду Nascar запретил использовать на своих мероприятиях флаг Конфедерации. Грег Глассман, основатель и генеральный директор CrossFit, объявил о своем уходе из компании после того, как опубликовал провокационный комментарий по поводу убийства Флойда, из-за чего спонсоры и владельцы спортивных залов стали разрывать связи с CrossFit.
По мере роста протестов Black Lives Matter, работники и активисты подвергли критике сотрудничество крупных технологических компаний с правоохранительными органами, требуя в ряде случаев, чтобы они его прекратили. И хотя Amazon открыто объявил о своей поддержке полицейской реформы, группа активистов на этой неделе подала петицию с требованием, чтобы компания разорвала все связи с полицейскими управлениями, а также с Иммиграционной и таможенной полицией США.
«Посты в Twitter и демонстративные пожертвования со стороны компании не значат ничего, если она действует заодно с агентами и институтами, замешанными в системном расизме и выступлениях против чернокожих», — говорит Мияша Хайес, директор по стратегии неправительственной организации MediaJustice, одной из групп, поддержавших петицию. «Amazon должен изучить свою структурную роль в системе постоянного давления на чернокожих», — отмечает она.
Некоторые из акционеров Amazon требуют от компании подготовить независимый отчет о том, способствовали ли ее системы слежения нарушению прав человека. «Amazon является партнером свыше 600 полицейских управлений, компания передает полиции данные с систем видеонаблюдения на входных дверях», — говорится в тексте предложения акционеров о подготовке отчета. Впрочем, на ежегодной встрече акционеров Amazon в мае это предложение принято не было.
По мере того, как технологические компании обсуждают вопросы использования систем распознавания лиц, многие города страны уже запретили их использование в различных госучреждениях, в том числе полицией. Сан-Франциско, где расположены офисы многих крупных технологических компаний, стал первым городом в США, где в мае 2019 г. был введен такой запрет.
