Сэм Альтман заявил, что ИИ может случайно захватить мир

Глава OpenAI Сэм Альтман заявил, что потеря контроля над искусственным интеллектом (ИИ) может произойти не только из-за злого умысла или сбоев технологий, но и «совершенно случайно». Об этом он рассказал в подкасте MD MEETS с главой Axel Springer Матиасом Дёпфнером, сообщает Bidd.

По словам Альтмана, сегодня сотни миллионов людей ежедневно используют ChatGPT, а вскоре их число вырастет до миллиардов.

«Люди все больше полагаются на его ответы — при принятии важных решений в жизни, на работе, во всем», — отметил он.

Альтман объяснил, что зависимость от ИИ усиливается по мере его развития:

«Предположим, модель становится все умнее и умнее, дает вам советы, которым вы почти всегда следуете. Потом она становится еще умнее. И теперь дает вам советы, которые вы даже не понимаете, но они оказываются правильными. И в итоге у вас выбор: либо следовать, либо проигрывать в конкуренции».

В такой ситуации, подчеркнул он, люди фактически начинают действовать по указанию искусственного интеллекта, даже не осознавая этого.

«В конце концов мы все делаем то, что говорит нам ассистент с искусственным интеллектом. По крайней мере те, кто хочет оставаться конкурентоспособным», — сказал глава OpenAI.

Альтман назвал это «петлей обратной связи»: чем больше люди слушают ИИ, тем больше данных он получает, становится умнее и усиливает свое влияние.

«Кто вообще тогда контролирует процесс? Получается, что мы делаем то, чего хочет модель», — резюмировал он.

Напомним, ровно год назад Сэм Альтман в своем эссе рассуждал о «веке интеллекта», будущем прогрессе с развивающимся AI. Он также заявил в своем блоге, что стоимость использования ИИ будет снижаться ежегодно в 10 раз, а низкие цены будут привлекать все больше пользователей.