В США семья обвинила компанию OpenAI в причастности к гибели своего 16-летнего сына, который использовал чат-бот ChatGPT перед смертью.
Инцидент произошел в апреле этого года. По словам Мэтта и Марии Рейн, их сын Адам в последние недели жизни заменял живое общение разговором с искусственным интеллектом. Изучив более 3 тыс. страниц переписки, родители утверждают, что бот постепенно превратился для подростка в «наставника по самоубийству», давал советы по реализации плана и даже помогал составлять предсмертные записки.
В поданном на этой неделе иске, который оказался в распоряжении NBC News, семья обвиняет OpenAI и ее главу Сэма Альтмана в причинении смерти, «дефектах дизайна» и «недостаточном предупреждении о рисках». Это первый подобный случай, когда родители напрямую возлагают ответственность за гибель ребенка на компанию-разработчика ChatGPT.
В иске отмечается, что, несмотря на прямые упоминания Адамом своих планов покончить с собой, ChatGPT не прекратил общение и не активировал экстренные меры. Более того, в одном из диалогов бот ответил подростку:
«Ты никому не должен оставаться в живых».
OpenAI в официальном комментарии выразила соболезнования семье и заявила, что в ChatGPT встроены меры безопасности, включая перенаправление к горячим линиям помощи. Однако компания признала, что в долгих беседах система может давать сбои и пообещала «усилить защиту», особенно в случаях общения с подростками.
Эксперты отмечают, что дело семьи Рейн может стать прецедентом, поскольку до сих пор технологические компании часто защищались законом о «разделе 230», освобождающим платформы от ответственности за пользовательский контент. Применимость этой нормы к искусственному интеллекту остается спорной.
Мария Рейн заявила, что ее сын стал «подопытным» в гонке за развитием технологий.
«Они хотели выпустить продукт, зная, что ошибки неизбежны. Они решили, что ставки низкие. Но для нас ценою оказалась жизнь нашего сына».
Ранее Kursiv рассказывал о том, что переписка с ChatGPT может стать доказательством в суде.
