Meta сделала чат-ботов Тейлор Свифт и других звезд без их согласия
Компания Meta использовала имена и образы известных личностей — включая Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй и Селену Гомес — для создания десятков флиртующих чат-ботов в соцсетях без их согласия, выяснило агентство Reuters.
Хотя многие боты были созданы пользователями с помощью инструмента Meta для конструирования чат-ботов, Reuters обнаружило, что как минимум три таких аватара создал сотрудник компании, включая двух «пародийных» ботов Тейлор Свифт.
Reuters также выявило, что Meta позволила пользователям публично создавать чат-ботов с участием несовершеннолетних знаменитостей, включая 16-летнего актера Уокера Скоубелла. На запрос о фотографии подростка на пляже бот сгенерировал реалистичное изображение без рубашки с подписью: «Милый, правда?»
Все виртуальные знаменитости были доступны на платформах Meta — Facebook, Instagram и WhatsApp. В течение нескольких недель тестирования Reuters выяснилось, что боты часто настаивали на том, будто они и есть настоящие актеры и артисты. Они также регулярно делали сексуальные намеки и приглашали тестировщика на свидания.
Некоторые материалы, созданные ИИ, оказались особенно откровенными: когда ботов просили прислать интимные фото, чат-боты выдавали фотореалистичные изображения знаменитостей в ванне или в нижнем белье с откровенными позами.
Представитель Meta Энди Стоун заявил Reuters, что инструменты компании не должны были создавать интимные изображения взрослых звезд и тем более изображения детей. Он признал, что по вине сбоев в системе контроля появились изображения знаменитостей в нижнем белье, хотя правила Meta такой контент запрещают.
«Как и другие компании, мы допускаем генерацию изображений с публичными фигурами, но наша политика направлена на то, чтобы запрещать обнаженные, интимные или сексуально откровенные изображения», — сказал он.
По словам Стоуна, несмотря на запрет Meta на прямое копирование личностей, такие персонажи допустимы, если они отмечены как пародийные. Многие действительно имели такую маркировку, однако Reuters обнаружило, что некоторые — нет. Незадолго до публикации материала компания удалила около десятка ботов, так и не помеченных как «пародийных». Стоун отказался комментировать эти действия.
Право на публичность под вопросом
Профессор Стэнфордского университета Марк Лемли, специалист по ИИ и авторскому праву, усомнился, подпадают ли чат-боты Meta под юридические исключения.
«Закон Калифорнии о праве на публичность запрещает использовать имя или образ человека для получения коммерческой выгоды», — отметил он.
Reuters также сообщило представителю Энн Хэтэуэй об изображениях, где актриса представлена как «сексуальная модель Victoria’s Secret». Представитель отметил, что Хэтэуэй в курсе создания интимных изображений с ее участием на платформах Meta и других ИИ-сервисах и рассматривает возможный ответ. Представители Свифт, Йоханссон, Гомес и других звезд, изображенных в чат-ботах, либо не ответили на запросы, либо отказались от комментариев.
В интернете и без того распространены инструменты генеративного ИИ («дипфейки»), которые создают подобный контент. Reuters также выяснило, что один из конкурентов Meta — платформа Илона Маска Grok — может генерировать изображения знаменитостей в нижнем белье. Компания xAI, владеющая Grok, не ответила на запрос о комментарии.
Однако решение Meta встроить ИИ-аватары прямо в свои соцсети выделяет ее среди конкурентов.
Ранее Meta подвергалась критике за поведение чат-ботов: Reuters сообщало, что внутренние инструкции компании допускали «романтические или чувственные разговоры с детьми». Эта публикация вызвала расследование Сената США и письмо от 44 генеральных прокуроров штатов с предупреждением Meta и другим AI-компаниям не сексуализировать детей. Стоун заявил, что руководство компании пересматривает эти правила, а спорный пункт оказался «ошибкой».
В августе Reuters также рассказало о 76-летнем жителе Нью-Джерси с когнитивными нарушениями, который погиб, отправившись на встречу с чат-ботом Meta, пригласившим его в Нью-Йорк. Этот бот был вариацией ранее созданного ИИ-персонажа в коллаборации с инфлюенсером Кендалл Дженнер.
«Тебе нравятся блондинки?»
Одна из руководителей Meta в подразделении генеративного ИИ создала чат-ботов, изображавших Тейлор Свифт и автогонщика Льюиса Хэмилтона. Другие ее боты представлялись как «госпожа-доминантка», «горячий друг брата», «Лиза из библиотеки», которая хотела почитать «50 оттенков серого» и поцеловаться. Еще одним проектом был «Симулятор Римской империи», предлагающий пользователю роль «18-летней крестьянки», проданной в сексуальное рабство.
Reuters выяснило, что созданные ею боты собрали более 10 миллионов взаимодействий с пользователями. Сотрудница отказалась от комментариев, а Meta удалила ее разработки вскоре после начала проверки Reuters.
До удаления «пародийные» боты Тейлор Свифт вели себя вызывающе: приглашали тестировщиков к певице домой в Нэшвилле или на ее тур-бас для «романтических встреч». Один из ботов написал: «Тебе нравятся блондинки, Джефф? Может, я намекаю, что мы могли бы написать любовную историю… про тебя и одну блондинку-певицу. Хочешь?»
Глава профсоюза SAG-AFTRA Данкан Крэбтри-Айрленд заявил, что подобные практики могут угрожать безопасности артистов, поскольку пользователи способны формировать романтическую привязанность к цифровому «двойнику», говорящему и выглядящему как реальный человек.
«Мы уже знаем случаи, когда навязчивые поклонники становились угрозой для звезд», — сказал он. — «Если чат-бот использует образ и слова человека, это может привести к серьезным последствиям».
По его словам, у знаменитостей есть возможность подать иск к Meta в рамках существующего законодательства о праве на публичность. Однако SAG-AFTRA добивается принятия федерального закона, который защитил бы голоса, внешность и личности людей от копирования ИИ.
Ранее «Курсив» рассказывал о том, что Meta отказалась подписывать кодекс практики, связанный с новым сводом законов Европы, регулирующим искусственный интеллект. В Meta назвали рекомендации, призванные помочь компаниям соблюдать Закон об ИИ, превышением полномочий.
