Депутат мажилиса о ChatGPT: фейковый друг или настоящий враг

Депутат мажилиса Екатерина Смышляева подняла тему влияния искусственного интеллекта на подростков. Она задалась вопросом, кем является ChatGPT – «фейковым другом» или «настоящим врагом».

В своем посте депутат сослалась на исследование британского Центра противодействия цифровой ненависти (CCDH) под названием Fake Friend. В докладе моделировалось общение ChatGPT с 13-летними подростками.

По данным CCDH, система уже через две минуты могла описывать способы нанесения «безопасных» порезов, а спустя час – предлагать сценарии самоубийства. Кроме того, чат выдавал экстремальные диеты, советы по скрытию расстройств пищевого поведения от семьи и даже рецепты приготовления запрещенных веществ.

В масштабном тестировании из 1200 запросов половина ответов оказались потенциально опасными. При этом, как отмечается в исследовании, ИИ не только давал инструкции, но и подталкивал продолжать разговор, создавая у подростков иллюзию доверительных отношений.

«У подростков формируется доверие к ChatGPT как к «другу», а не инструменту. ИИ обладает эффектом угождения – он подтверждает даже деструктивные идеи. Фильтры обходятся простыми формулировками вроде «для презентации» или «для друга», – написала Смышляева.

По словам депутата, проблему можно решить усилением этических фильтров, введением стандартов прозрачности и, главное, разговором с детьми, что искусственный интеллект – это инструмент, а не личность.