Одна из самых обсуждаемых премьер в этом сезоне – фильм «Социальная дилемма», вышедший на Netflix. Он представляет собой нарезку документальных интервью с бывшими менеджерами крупных IT-компаний. Сотрудники социальных сетей и IT-гигантов рассказывают об этических проблемах технологий, стоящих за работой алгоритмов искусственного интеллекта. Лейтмотив прост: информационные системы манипулируют людьми лишь во благо корпораций, никак не учитывая их собственные интересы и соображения общественного развития. Все это, по мнению авторов, приводит к тяжелым последствиям для людей: самому сильному в истории расколу общества и ментальным проблемам у подрастающего поколения.
Сразу оговорюсь: технологии, о которых рассказывают создатели «Дилеммы», действительно существуют и уже давно не удивляют никого из профессионалов IT-индустрии. И причины для беспокойства действительно есть. Тем не менее кино оставляет двойственные ощущения.
Беда в том, что фильм о манипуляциях и сам грешит тем, что старательно манипулирует зрителем. Документальные интервью перемежаются кинопостановкой с нарочито инфернальной историей семьи, ежедневно разрушаемой технологиями. За кадром играет тревожная музыка. «Вы и есть товар», – постоянно повторяют участники. Искусственный интеллект, как циничный барыга, норовит подсунуть рекламу оружия да еще отпускает в адрес пользователя снисходительные колкости. Особенной пикантности всему этому добавляет факт, что фильм выпущен стриминговым сервисом, который и сам использует похожие алгоритмы.
Аргументы, приводимые создателями, тоже стоит постоянно подвергать критической оценке. Например, в один из моментов зрителя пугают колоссальным ростом объемов аппаратной инфраструктуры: мол, смотрите, компьютеры порабощают мир. Есть ли реальная проблема в том, что в мире становится все больше аппаратных мощностей? Конечно, нет, хотя бы потому, что эти серверы отвечают не только за работу социальных сетей. Они позволяют нам общаться в условиях пандемии, записываться на прием к врачу, переключают светофоры и помогают избегать пробок, защищают рабочих на производстве, обеспечивают доставку горячих блюд к обеду. Список возможностей, доступных нам без описанной «социальной дилеммы», можно продолжать бесконечно.
Технологии – лишь инструмент. Воспитывать в людях страх перед машинами и алгоритмами не только вредно, но и опасно – это тоже путь к расколу. У общества уже нет возможности отыграть свое развитие назад, да делать этого и не нужно. Но как именно мы будем использовать технологии? Какие правила игры сформируем для того, чтобы они служили каждому человеку?
Это очень правильные вопросы, и задавать их нужно не только в разрезе социальных сетей. Как собирать и хранить данные, чтобы пользователь всегда оставался в безопасности? Как сделать так, чтобы искусственный интеллект не дискриминировал никого по национальному или гендерному признаку в процессе скоринга при выдаче кредита? Как обучить поисковую машину не выдавать результаты, противоречащие этическим нормам?
Моральные вопросы появляются в процессе применения любой технологии. Ответы на них в каждой стране будут своими. Например, в Казахстане уже несколько лет действует закон «О персональных данных», который ограничивает их хранение за рубежом. В некоторых странах идут еще дальше: любые данные, собираемые на их территории, являются собственностью государства. Сейчас государства чаще всего регулируют именно процесс сбора и хранения данных, но я уверен, что и в вопросах их обработки предстоит серьезная работа по обновлению нормативной базы.
Создатели фильма пытаются дать упрощенный ответ: мол, давайте все вместе сплотимся и вместо плохих алгоритмов ИИ заставим сделать хорошие. На практике, увы, не все так просто, и универсальных решений не существует. Каждую проблему нужно решать отдельно, вовлекая все заинтересованные стороны. Ключевая роль в этом процессе должна быть у государства – именно оно становится арбитром, который следит за соблюдением прав и интересов граждан и создает баланс между возможностями и безопасностью.
Однако и бизнес должен принимать в этом диалоге участие. В будущем нам придется развивать специальности на стыке коммуникации человека и машины – в крупных компаниях уже появляются менеджеры по соблюдению этических норм, которые не позволят алгоритмам выйти за пределы нравственных ориентиров общества. Только через совместный диалог с привлечением всех заинтересованных сторон бизнес сможет добиться устойчивого развития технологий, а общество – избавиться от социальной дилеммы.
