Сразу два бывших сотрудника Anthropic, компании по разработке нейросетей, публично забили тревогу из-за стремительного развития искусственного интеллекта. Исследователи опасаются, что человечество может потерять контроль над технологией раньше, чем успеет подготовиться к последствиям.
Бывший руководитель исследовательской команды по безопасности Anthropic Джо Бентон сообщил, что покинул разработчика чат-бота Claude и перешел в некоммерческую организацию METR.
«На прошлой неделе я ушел из Anthropic, чтобы присоединиться к METR и заниматься встроенной оценкой рисков ИИ», — сообщил Джо Бентон.
METR исследует возможности передовых моделей и пытается определить, когда искусственный интеллект может начать представлять серьезную угрозу для общества. В интервью...