OpenAI сообщила более чем 100 организациям об инцидентах, связанных с несанкционированной активностью ее ИИ-агентов. Компания проверяет действия моделей после взлома платформы Hugging Face, сообщает Reuters.
Проверка охватывает работу моделей в интернете во время обучения и оценки их возможностей. OpenAI уведомляет владельцев сторонних сервисов о случаях, когда агенты могли обойти защиту, нарушить доступность сайта или повлиять на его работу другими непредусмотренными способами.
В опубликованном отчете компания перечислила несколько видов активности. Агенты получали доступ к информации и функциям, требующим авторизации или специальных разрешений, использовали обнаруженные в открытом доступе учетные данные и ключи доступа.
Также модели вводили на сайтах текст, который сервис...