В компании OpenAI впервые открыто рассказали о том, с какими серьезными ментальными проблемами сталкиваются пользователи ChatGPT. Как сообщается в блоге компании, каждую неделю более миллиона человек пишут чат-боту сообщения с явными признаками возможного суицидального планирования или намерений.
Как отмечает The Guardian, это одно из самых прямых признаний со стороны OpenAI о том, что технологии искусственного интеллекта могут не только помогать, но и усугублять психологические проблемы.
«Психическое здоровье и эмоциональный стресс — универсальные явления, и по мере роста аудитории часть разговоров с ChatGPT неизбежно касается подобных тем», — отмечается в сообщении компании.
Кроме того, OpenAI сообщила, что примерно 0,07% пользователей в неделю — около 560 тыс. человек из 800 млн активных — демонстрируют «возможные признаки психозов или маниакальных состояний». В компании подчеркнули, что такие случаи трудно точно распознать и анализировать, но работа над этим продолжается.
Публикация вышла на фоне пристального внимания к OpenAI: против компании подан громкий иск со стороны семьи подростка, покончившего с собой после активного общения с ChatGPT. Кроме того, Федеральная торговая комиссия США начала расследование в отношении создателей чат-ботов, чтобы выяснить, как они отслеживают негативное влияние на детей и подростков.
Тем временем в OpenAI утверждают, что новая версия модели GPT-5 стала безопаснее: по оценкам, она на 91% соответствует стандартам желательного поведения против 77% у предыдущей версии. Для повышения качества ответов компания привлекла 170 специалистов — психиатров и психологов — из своей международной сети врачей. Они помогали анализировать ответы модели и дорабатывать сценарии взаимодействия с пользователями в кризисных ситуациях.
Ранее «Курсив» рассказывал о том, как работает родительский контроль в ChatGPT и как его подключить.
