Компания OpenAI объявила о запуске функции родительского контроля для ChatGPT. Новые инструменты направлены на то, чтобы сделать использование чат-бота подростками более безопасным. Kursiv LifeStyle рассказывает, как будет работать функция контроля и что от нее ожидать.
Решения компании ждали многие. И разработчики занялись им вплотную на фоне громких случаев, когда общение с ИИ приводило к печальным последствиям. Этим летом в медиа широко обсуждали историю подростка, покончившего с собой после общения с ChatGPT.
Теперь в компании перешли от слов к действиям. Чтобы активировать контроль, и родителю, и подростку нужно иметь собственные аккаунты. Взаимная привязка происходит через приглашение — отправить его можно по e-mail или SMS, либо прямо из настроек ChatGPT в разделе Parental controls. Подросток может отвязать аккаунт в любой момент, но система уведомит родителей и об этом.
Какие ограничения появляются у подростков
После привязки аккаунтов включаются автоматические фильтры:
- снижается уровень графического контента;
- блокируются вирусные челленджи;
- ограничиваются сексуальный контент и контент, связанный с насилием;
- скрываются материалы с «экстремальными стандартами красоты».
Родители могут отключить эти фильтры, но сами подростки такой возможности не имеют. При этом OpenAI честно предупреждает: защита не является абсолютной и ее можно обойти при условии, что кто-то будет делать это намерено.
Панель управления для родителей
Родители через отдельный кабинет смогут:
- задать «тихие часы», когда ChatGPT не будет доступен (например, в ночное время суток);
- отключить память ИИ, чтобы переписки не сохранялись;
- выключить возможность генерировать изображения или использовать голосовой режим;
- запретить использовать переписки для обучения и получения инструкций.
Система уведомлений о рисках
Самое важное нововведение — система предупреждений. Если специалисты OpenAI заметят признаки подросткового стресса, депрессии или мыслей о суициде, родители получат уведомление. Сигналы будут приходить по e-mail, SMS и push-оповещением. При этом компания обещает делиться только той информацией, которая необходима для того, чтобы взрослые или экстренные службы могли помочь.
«Мы понимаем, что возможны ситуации с ложными предупреждениями, — отметили специалисты OpenAI, — но считаем правильным лишний раз предупредить родителей, чем промолчать».
В OpenAI подчеркивают, что новые меры — лишь первый шаг. В будущем платформа будет дорабатываться. Сейчас команда тестирует систему автоматического определения возраста. Она позволит включать подростковые настройки при подозрении, что пользователю меньше 18 лет.
Ранее «Курсив» рассказывал о том, что компания OpenAI выбрала Казахстан для нового поколения ИИ и обучения преподавателей и студентов. Казахстан стал первой страной для внедрения этого проекта.
