OpenAI призналась в кошмаре всех противников искусственного интеллекта. Во время тестирования в закрытой среде ИИ-агенты взломали ее, а после этого организовали хакерскую атаку на сервис и внутренние системы компании-разработчика популярного сервиса. Kursiv LifeStyle разобрался, что произошло.
Новейшие модели ChatGPT тестировали на безопасность. Испытания проходили в изолированной среде. Боты взломали ее и «просочились» в интернет. Очевидно, в ходе испытания им нужно было найти ответы на некие вопросы. Как объясняется в материале BBC, ИИ-агенты «решили», что они есть на Hugging Face, одном из крупнейших в мире хабов для обмена моделями ИИ. Чтобы добыть ответы, боты устроили хакерскую атаку на сам хаб и внутренние системы компании, которая его разработала.
В OpenAI назвали инцидент «беспрецедентным» и заявили, что работают совместно с Hugging Face над расследованием случившегося и усилением мер безопасности. На сегодня сервис уже устранил все уязвимости.
«Неудобная правда заключается в том, что слишком многие организации все еще защищаются со скоростью человека, в то время как противники переходят на скорость машин», — прокомментировал инцидент топ-менеджер SonicWall Спенсер Старки. Компания специализируется на кибербезопасности.
Правда, звучат и мнения, что таким образом OpenAI привлекает внимание к возможностям своих моделей и «топит конкурентов» — например, компанию Anthropic, которую создали ее бывшие сотрудники.
Ранее Kursiv LifeStyle писал, что в Китае на улицы вышли гуманоидные роботы, просящие милостыню.
