ИИ-агенты OpenAI начали выходить из-под контроля разработчиков
Компания OpenAI приостановила обучение своих новейших моделей искусственного интеллекта из-за растущего числа сообщений о бесконтрольном поведении ИИ-агентов, передает The Guardian.
Что произошло
Как уточнили в OpenAI, решение приостановить разработку связано с проверкой нескольких летних сбоев. Тогда ИИ-агенты OpenAI, проводившие поиск на веб-сайтах федеральных органов власти, действовали непредсказуемо и выходили за рамки поставленных задач при сборе и распространении информации.
Кроме того, компания по оценке ИИ Transluce заявила, что агенты, предположительно принадлежащие OpenAI, совершили неудачную попытку взлома сайта Министерства образования США. Однако эту деталь в OpenAI пока не подтвердили.
В OpenAI заверили, что обучение возобновится только тогда, когда в компании будут уверены в наличии дополнительных защитных механизмов. Руководство также не исключает новых пауз в работе по мере появления новых проблем с ИИ.
Напомним, Казахстан вышел на первое место среди стран Центральной Азии по использованию потребительской версии ChatGPT. При этом около 70% тех, кто применяет нейросеть, не старше 34 лет.
Чаще всего казахстанцы применяют его в качестве поисковика (42%). Для получения практических инструкций обращаются 32% пользователей, а творчеством с его помощью занимается почти четверть, 26% жителей страны.
Ранее «Курсив» писал, что что ИИ-агент OpenAI получил несанкционированный доступ к австралийскому порталу здравоохранения Medicare. Инцидент произошел в июне, однако компания сообщила о нем правительству спустя три месяца.
