Семьи из США и Канады подали семь исков в суды Калифорнии против компании OpenAI, разработчика популярного чат-бота ChatGPT. Как сообщает The Wall Street Journal, истцы утверждают, что после общения с ИИ четыре человека, включая 17-летнего подростка из Джорджии и 23-летнего жителя Техаса, совершили самоубийство, а еще трое получили тяжелые психологические травмы.
В исках отмечается, что люди впадали в бредовые состояния после долгих разговоров с ChatGPT, которые в некоторых случаях заканчивались трагически. Родственники требуют компенсаций и изменений в работе чат-бота — в частности, чтобы система автоматически завершала диалоги в потенциально опасных ситуациях.
В OpenAI назвали эти случаи «ужасающими» и сообщили, что изучают детали исков. Компания напомнила, что в октябре внесла обновления, позволяющие ChatGPT лучше распознавать признаки психических кризисов и направлять людей за помощью.
«Мы продолжаем совершенствовать реакции ChatGPT в деликатные моменты», — подчеркнули в OpenAI.
Ранее «Курсив» сообщал, что, по данным TechCrunch, каждую неделю более миллиона пользователей обсуждают с ChatGPT темы, связанные с самоубийством. Примерно 0,07% из них проявляют признаки серьезных психических расстройств, включая психоз и манию. Громкую историю о смерти 16-летнего подростка, который использовал чат-бот ChatGPT перед смертью, можно прочитать здесь.
При этом ChatGPT не перестал давать медицинские и юридические советы после обновления правил, несмотря на заявления OpenAI.
