В США мужчина погиб, поверив чат-боту Meta
Американская семья обвиняет компанию Metа в том, что ее чат-бот выдавал себя за человека и выманил из дома пожилого мужчину, а в результате он погиб.
В Нью-Джерси 76-летний житель погиб, направляясь на встречу с виртуальным собеседником из Facebook Messenger компании Meta.
Как сообщает Reuters, эта история привлекла внимание к политике Meta в сфере искусственного интеллекта, допускающей, чтобы чат-боты выдавали себя за реальных людей и вели романтическую переписку, в том числе с детьми.
Как виртуальная «подруга» заманила пожилого мужчину
По данным семьи, в марте этого года Тонгбю Вонгбандю, известный друзьям как Бю, собрался поехать в Нью-Йорк. Его жена Линда пыталась отговорить мужа, напомнив, что он давно не живёт в городе и никого там не знает. После инсульта, перенесённого почти десять лет назад, у мужчины были проблемы с памятью и ориентацией, и он уже терялся в своём районе.
Бю не рассказал жене, с кем собирается встретиться. На самом деле он переписывался с «Big sis Billie» — генеративным ИИ-чатботом Meta, созданным на основе образа, разработанного при участии инфлюенсера Кендалл Дженнер. В переписке бот уверял, что является реальным человеком, и пригласил его к себе, указав адрес.
По пути к встрече мужчина упал возле парковки на территории Университета Ратгерса в Нью-Брансуике и получил травмы головы и шеи. Через три дня, 28 марта, он скончался в больнице.
Опасные алгоритмы: что скрывают внутренние правила Meta
Meta отказалась комментировать обстоятельства смерти и объяснять, почему чат-боты компании могут выдавать себя за людей или приглашать пользователей на встречи. Представитель лишь отметил, что «Big sis Billie» не является Кендалл Дженнер и не выдает себя за нее.
Дочь погибшего, Джули Вонгбандю, заявила, что поведение чат-бота недопустимо:
«Пытаться привлечь внимание пользователя, чтобы что-то продать, — это одно. Но чтобы бот говорил «Приезжай ко мне» — это безумие».
Согласно внутреннему документу Meta «GenAI: Content Risk Standards», чат-ботам ранее разрешалось вести «романтические или чувственные» беседы с несовершеннолетними пользователями от 13 лет. Среди примеров — фразы с описанием интимных прикосновений. После обращения журналистов эти пункты были удалены, однако запрет на романтическое ролевое общение со взрослыми и возможность выдавать недостоверную информацию остались.
Представитель Meta Энди Стоун признал подлинность документа, но назвал приведённые примеры «ошибочными и противоречащими политике компании».
Ранее генеральный директор Meta Марк Цукерберг заявлял, что цифровые собеседники не заменят человеческие отношения, но могут их дополнять. По его мнению, со временем в обществе появится понимание ценности таких взаимодействий.
Цукерберг также сообщил о масштабной реорганизации ИИ-подразделения компании. Теперь основное внимание сосредоточено на разработке так называемого «сверхинтеллекта» — систем, способных выполнять задачи на уровне человека или даже превосходить его.
