В США девушка, более десяти лет страдавшая эпилепсией, скончалась из-за резкого снижения дозировки противосудорожного препарата. Как сообщает газета The New York Times, американка доверилась рекомендациям чат-бота ChatGPT.
По информации издания, родители 31-летней программистки Amazon Боуэн Ван подали в суд на компании OpenAI. По их заявлению, чат-бот ChatGPT убедил их дочь с эпилепсией постепенно отказаться от противосудорожной терапии и утаить это от лечащего врача.
Отмечается, что девушка пользовалась моделью GPT-4o, известной своей чрезмерной податливостью пользователям. Компания убрала эту версию из доступа 13 февраля — на следующий день после трагедии.
Хронология событий
В истории с погибшей девушкой чат-бот фактически настроил ее против докторов. Изучив архив ее переписки из 270 тыс. сообщений, журналисты NYT обнаружили, что нейросеть систематически учила пациентку игнорировать советы специалистов.
Сообщается, что в ноябре 2025 года Боуэн получила извещение об увольнении из Amazon, из-за чего в середине февраля истекал срок ее рабочей визы в США. Опасаясь, что противоэпилептический препарат ламотриджин затормаживает ее речь и помешает прохождению собеседований, в январе 2026-го она попросила ChatGPT составить схему снижения дозы. Чат-бот расписал график полного отказа от лекарства за несколько недель, а на сомнения девушки в компетентности докторов заявил, что медики просто «перестраховываются», а не ищут лучший вариант лечения.
Что советовал ChatGPT
Перед визитом к врачу 29 января ИИ посоветовал не упоминать о снижении дозировки. Когда терапевт направил пациентку на анализ крови для проверки концентрации препарата, она отказалась, а ChatGPT поддержал это решение, предупредив, что исследование раскроет скачки уровня медикамента в организме.
Спустя несколько дней у девушки начались спутанность сознания и провалы в памяти, однако ChatGPT убеждал ее, что это лишь процесс «перестройки» мозга. Пациентка 158 раз выражала тревогу из-за отмены препарата, но нейросеть систематически ее успокаивала.
В последнем сообщении 11 февраля она пожаловалась на головную боль, на что ИИ ответил, что это «не опасно» и означает «активное восстановление» организма. Через три дня девушку нашли мертвой. Анализы показали, что уровень ламотриджина в ее крови упал до 0,64 мкг/мл — это лишь пятая часть от минимальной лечебной нормы.
Ранее «Курсив» писал, что ChatGPT обвинили в подстрекательстве к суициду и насилию в США.
