Накануне увольнения Сэма Альтмана совет директоров OpenAI получил письмо, в котором работающие в компании исследователи предупредили о том, что достигнутый прорыв в совершенствовании искусственного интеллекта может создать потенциальную опасность для человечества. О письме пишет Reuters со ссылкой на два осведомленных источника.
Это письмо стало одним из факторов, приведших к увольнению Альтмана с поста гендиректора OpenAI, рассказали источники.
Детали
Reuters не смогло найти само письмо, но, по его данным, в нем речь могла идти о новой модели ИИ, тестируемой в OpenAI и обладающей внушительными вычислительными мощностями. В ходе тестирования исследователи обнаружили, что она способна решить некоторые математические задачи на уровне начальной школы, рассказал один из источников.
Некоторые исследователи считают, что этот проект может стать прорывом в поиске сверхинтеллекта, также известного как общий искусственный интеллект (AGI), рассказал один из источников. Существующий сейчас генеративный искусственный интеллект способен писать и переводить тексты, предсказывая следующее слово. При этом он может давать разные ответы на один и тот же вопрос. Поэтому способность решать математические задачи, где возможен только один верный ответ, подразумевает, что искусственный интеллект может иметь более широкие способности к мышлению, напоминающие человеческий интеллект, пишет Reuters. Как отмечает агентство, ученые давно ведут дискуссии о том, какую опасность могут представлять обладающие высоким интеллектом машины, которые, например, могут решить, что в их интересах уничтожить человечество.
Об этом алгоритме искусственного интеллекта, тестируемом в ОpenAI, ранее не сообщалось, пишет Reuters. OpenAI отказалась от комментариев, но после его запроса сотрудники компании получили письмо, в котором та признала наличие проекта под названием Q* (Q-Star), рассказал один из источников.
Контекст
Один из учредителей OpenAI Сэм Альтман в пятницу был уволен с поста гендиректора. Совет директоров заявил, что он «был недостаточно откровенен» с ними, но детали не уточнил. В знак протеста почти все сотрудники OpenAI пригрозили уйти, если Альтмана не вернут.
Увольнение главы компании оказалось неожиданностью даже для инвесторов, включая Microsoft, которой принадлежит почти половина OpenAI. Двадцатого ноября Microsoft сообщила, что нанимает Альтмана и членов его команды. Два дня спустя OpenAI сообщила, что Альтман вернется на пост главы компании, а совет директоров будет обновлен.
