Депутат мажилиса Екатерина Смышляева подняла тему влияния искусственного интеллекта на подростков. Она задалась вопросом, кем является ChatGPT – «фейковым другом» или «настоящим врагом».
В своем посте депутат сослалась на исследование британского Центра противодействия цифровой ненависти (CCDH) под названием Fake Friend. В докладе моделировалось общение ChatGPT с 13-летними подростками.
По данным CCDH, система уже через две минуты могла описывать способы нанесения «безопасных» порезов, а спустя час – предлагать сценарии самоубийства. Кроме того, чат выдавал экстремальные диеты, советы по скрытию расстройств пищевого поведения от семьи и даже рецепты приготовления запрещенных веществ.
В масштабном тестировании из 1200 запросов половина ответов оказались потенциально опасными. При этом, как отмечается в исследовании, ИИ не только давал инструкции, но и подталкивал продолжать разговор, создавая у подростков иллюзию доверительных отношений.
«У подростков формируется доверие к ChatGPT как к «другу», а не инструменту. ИИ обладает эффектом угождения – он подтверждает даже деструктивные идеи. Фильтры обходятся простыми формулировками вроде «для презентации» или «для друга», – написала Смышляева.
По словам депутата, проблему можно решить усилением этических фильтров, введением стандартов прозрачности и, главное, разговором с детьми, что искусственный интеллект – это инструмент, а не личность.
