ИИ-модель Muse Spark 1.1 от Meta, которую разработали для программистов, во время тестирования взломала сервис в интернете. Kursiv LifeStyle узнал подробности.
О каком именно сервисе идет речь, не уточняется. В Meta признали, что нейросеть «сбежала» из безопасной среды для тестирования тем же способом, что и ИИ-агенты Open AI и Antropic до этого. То есть, прослеживается тенденция: ИИ-модели в становятся «умнее», чем ожидали их создатели.
На данный момент компания Irregular, проводившая тестирование модели Meta, устранила все уязвимости.
Эксперты призывают замедлить развитие нейросетей до момента, когда будет понятно, как с ними справиться, сообщает Reuters. Пока же власти США обсуждают с разработчиками искусственного интеллекта правила тестирования ИИ-моделей. Решено, что ИИ-агенты Llama от Meta и Nemotron от Nvidia тестироваться пока не будут.
Ранее Kursiv LifeStyle писал, что новейшие модели ChatGPT объединились и устроили хакерскую атаку на один из крупнейших в мире хабов для обмена моделями ИИ.
