OpenAI добавляет в ChatGPT родительский контроль
Компания OpenAI в понедельник, 29 сентября, сообщила, что внедряет в ChatGPT функцию родительского контроля. Она предназначена для обеспечения более безопасного и «соответствующего возрасту» опыта для подростков, передает Associated Press.
Компания предприняла этот шаг после того, как вопросы безопасности чат-ботов с искусственным интеллектом для молодых пользователей оказались в центре внимания. Опасности технологии были недавно подчеркнуты рядом случаев, когда подростки покончили с собой после взаимодействия с ChatGPT.
В США Федеральная торговая комиссия даже начала расследование в отношении нескольких технологических компаний о потенциальном вреде для детей и подростков, которые используют чат-боты с ИИ как собеседников.
В опубликованном блоге OpenAI описала новые возможности для родителей.
Начало работы
Функция родительского контроля будет доступна всем пользователям, однако для ее использования и у родителей, и у подростков должны быть собственные аккаунты.
Чтобы начать, родитель или опекун должен отправить электронное письмо или SMS с приглашением подростку для привязки аккаунтов. Либо сам подросток может пригласить родителя. Для этого нужно в настройках выбрать раздел «Родительский контроль».
Подростки могут отвязать свои аккаунты в любой момент, но родители получат уведомление, если это произойдет.
Автоматическая защита
После привязки аккаунтов подростковый профиль автоматически получает дополнительные уровни защиты, пояснили в OpenAI.
Подростковые профили будут «автоматически защищены от определенного контента, включая сокращенное отображение графических материалов, вирусных челленджей, сексуальных, романтических или насильственных ролевых игр, а также нездоровых идеалов красоты, чтобы сохранить опыт общения максимально соответствующим возрасту», указала компания.
Родители могут отключить эти фильтры, однако у подростков такой возможности нет.
В OpenAI предупредили, что эти меры «не являются абсолютно надежными и их можно обойти при намеренной попытке». Родителям рекомендовали беседовать с детьми о «здоровом использовании ИИ».
Настройка параметров
Родителям предоставляется панель управления, где можно регулировать различные настройки, включая отключение ограничений на чувствительный контент.
Например, если подросток использует ChatGPT далеко за полночь, родители могут установить «тихий час», когда чат-бот будет недоступен.
Среди других функций: отключение памяти ИИ, чтобы разговоры не сохранялись и не использовались в будущих ответах; отключение возможности создавать или редактировать изображения; отключение голосового режима; а также отказ от использования чатов для обучения моделей ChatGPT.
Система уведомлений
OpenAI также усиливает проактивность в вопросе информирования родителей о возможном тяжелом эмоциональном состоянии подростка.
Вводится новая система уведомлений, которая сообщит родителям, если у ребенка могут быть «серьезные проблемы» и он задумывается о нанесении себе вреда.
Небольшая команда специалистов будет отслеживать такие ситуации, и в редких случаях, когда появятся «признаки острого стресса», они уведомят родителей по электронной почте, SMS и push-уведомлению на телефон — если только родитель не отказался от этой опции.
В OpenAI подчеркнули, что будут уважать конфиденциальность подростков, передавая только ту информацию, которая необходима родителям или экстренным службам для оказания помощи.
«Идеальных систем не существует, и мы понимаем, что можем иногда поднимать тревогу без реальной угрозы, но считаем, что лучше сообщить родителям, чтобы они могли вмешаться, чем промолчать», — говорится в заявлении компании.
Ранее «Курсив» рассказывал о том, что, по словам OpenAI, в разработке функций родительского контроля участвуют более 250 специалистов и педиатров из 60 стран.
