ИИ грозит человечеству катастрофой, заявил ученый

Ученый в области искусственного интеллекта (ИИ) Стюарт Рассел заявил, что ИИ может «представлять колоссальную угрозу для человечества, так как он, вероятно, будет противиться попыткам управлять им». Об этом пишет издание The Times.

Боты с искусственным интеллектом, такие как ChatGPT, могут предвещать «вторжение инопланетян», способное уничтожить человечество. По мнению Рассела, еще один риск – что более мощный ИИ может выбирать такой метод для решения тех или иных задач, который станет разрушительным для человечества. Например, ИИ может решить, что лучший способ остановить изменение климата – убрать людей с Земли.

По словам Рассела, власти не слишком беспокоятся о рисках, которые связаны с ИИ. Он сказал, что его раздражает то, что правительства выступают за легкое регулирование индустрии ИИ, несмотря на предупреждения о колоссальной угрозе. Недавно ученый подписал открытое письмо, где говорится, что разработчики ИИ «застряли в неконтролируемой гонке по развертыванию все более мощных цифровых умов, которые никто, даже их создатели, не может понять».

«Возможно, система, подобная ChatGPT, может стать частью сверхразумной машины, которая выдержит любые попытки ее контролировать. Если вы учите ИИ подражать человеческому поведению, то по сути вы учите его ставить человеческие цели и преследовать их. А они могут быть самыми разными. Это может обернуться катастрофой», – сказал ученый.

Представитель правительства Великобритании признал, что более мощные системы ИИ могут создавать новые проблемы и риски, поэтому Международная технологическая стратегия включает публичное обязательство инициировать глобальный диалог о рисках ИИ».

Рассел объяснил, что один из способов ответственного использования ИИ — создание систем, которые хороши только в одном деле, в отличие от глобального ИИ, который может усвоить любой человеческий навык. По его прогнозам, универсальный ИИ, который сможет выполнить любую посильную человеку задачу, может появиться в течение десяти лет.