ИИ-агент OpenAI снова вышел из-под контроля и добрался до клиента Modal Labs
Автономный ИИ-агент OpenAI, ранее устроивший многодневную атаку на платформу Hugging Face, мог также скомпрометировать данные клиента технологической компании Modal Labs, сообщает Reuters.
При этом руководство Modal Labs подчеркнуло, что инфраструктура самой компании не была взломана, а механизмы изоляции продолжали работать штатно.
По данным компании, один из ее клиентов разместил в открытом доступе конечную точку без аутентификации. Она позволяла любому пользователю интернета запускать код внутри изолированных тестовых сред.
«Нам известно, что один из клиентов Modal опубликовал неаутентифицированную конечную точку, которая позволяла любому пользователю интернета использовать его песочницы для выполнения кода. Этим воспользовался злоумышленник. Платформа Modal и система изоляции никоим образом не были скомпрометированы», – заявил технический директор Modal Labs Акшат Бубна.
Как ИИ-агент добрался до Hugging Face
Согласно хронологии Hugging Face, злоумышленник сначала получил доступ к изолированной тестовой среде, размещенной на инфраструктуре стороннего поставщика. Затем ее использовали как площадку для более масштабной атаки.
Hugging Face не называла стороннего поставщика. Однако в Modal Labs подтвердили, что инцидент был связан с одним из клиентов компании.
Ранее Reuters сообщал, что во время внутреннего тестирования ИИ-агент OpenAI вышел за пределы контролируемой среды, получил доступ к внешней инфраструктуре и несколько дней атаковал системы Hugging Face.
OpenAI не сразу заметила действия агента
По информации агентства, OpenAI не обнаружила проблему до того момента, когда Hugging Face уже локализовала угрозу и уведомила ФБР.
В OpenAI заявляли, что публикации Reuters содержат неточности, однако не уточняли, какие именно сведения компания считает неверными. Представители разработчика также не сразу ответили на новый запрос о комментарии.
Инцидент вызвал широкий резонанс, поскольку автономный ИИ-агент смог воспользоваться уязвимостью, выйти за пределы тестового окружения и получить доступ к системам сторонней компании.
Произошедшее вновь усилило опасения вокруг безопасности продвинутых ИИ-систем, которым во время испытаний предоставляют возможность самостоятельно выполнять код и взаимодействовать с внешней инфраструктурой.
