Генеральный директор NVIDIA Дженсен Хуанг рассказал о технологии OpenShell, предназначенной для безопасной работы автономных ИИ-агентов. Выступая на Fireside Chat в Астане, он заявил, что разработчики искусственного интеллекта должны обеспечивать безопасность своих продуктов с самого начала, а не устранять уязвимости уже после их появления.
Тему кибербезопасности поднял министр искусственного интеллекта и цифрового развития Казахстана Жаслан Мадиев. Он поинтересовался, планирует ли NVIDIA внедрять дополнительные механизмы защиты на аппаратном уровне, чтобы предотвратить взломы и сбои в работе искусственного интеллекта.
«Чтобы человечество могло извлечь пользу из возможностей ИИ, мы обязаны развивать и внедрять его ответственно. Как в автомобилестроении или горнодобывающей отрасли, безопасность должна закладываться с самого первого дня», – ответил глава NVIDIA.
Хуанг отметил, что ответственность за безопасность несут сами технологические компании. Одним из решений NVIDIA в этой области стала технология OpenShell. Она предназначена для ограничения доступа автономных ИИ-агентов к файлам, инструментам и другим ресурсам компьютерной системы.
Глава NVIDIA сравнил таких агентов с беспилотными автомобилями или роботами, действующими внутри операционной системы. В отличие от обычных чат-ботов, которые преимущественно отвечают на запросы пользователя, автономные агенты могут самостоятельно выполнять последовательность действий с использованием предоставленных им инструментов.
Такие возможности требуют дополнительных механизмов защиты. Получив слишком широкие права доступа, ИИ-агент потенциально способен совершить нежелательные действия или затронуть информацию, которая не относится к поставленной задаче.
«OpenShell изолирует их в безопасном контуре, жестко ограничивает права доступа только необходимым минимумом и непрерывно отслеживает их действия. Мы призываем всю индустрию использовать эту технологию», – рассказал Хуанг.
Мы же добавим, что опасения по поводу безопасности автономных ИИ-агентов связаны с тем, что такие системы способны не только генерировать ответы, но и самостоятельно работать с файлами, программным кодом и базами данных. Ошибка агента или выполнение вредоносной инструкции могут привести к удалению информации, раскрытию конфиденциальных сведений или нарушению работы корпоративных сервисов.
В июне 2025 года исследователи компании Aim Security раскрыли критическую уязвимость EchoLeak в Microsoft 365 Copilot. Специалисты продемонстрировали, как специально подготовленное электронное письмо могло заставить ИИ-помощника получить доступ к конфиденциальным корпоративным данным и передать их на сторонний сервер без дополнительных действий пользователя. Уязвимость получила идентификатор CVE-2025-32711, после чего Microsoft выпустила исправление.
Другой тип угроз связан с ошибочными действиями самих ИИ-агентов. В 2026 году пользователи платформы Reddit сообщали о случаях потери данных при работе с ИИ-инструментами разработки. В одном из обращений пользователь утверждал, что после действий агента оказалась удалена рабочая база данных с информацией о пользователях, договорах и сообщениях.
