Как Казахстан выстраивает регулирование ИИ в правовом поле
Партнер, Руководитель KPMG Law, KPMG Кавказ и Центральная Азия Алексей Абрамов;
Партнер, Руководитель Технологической практики, KPMG Кавказ и Центральная Азия Константин Аушев.
Искусственный интеллект (ИИ) стремительно внедряется в бизнес, госуправление и повседневную жизнь — эта технология способна стимулировать экономический рост, повысить эффективность затрат и улучшить качество жизни в обществе.
В то же время и государственный, и частный секторы должны учитывать потенциальные риски, чтобы обеспечить безопасное и законное применение технологии. Как регулировать ИИ, не останавливая прогресс? Казахстан делает первые шаги к созданию комплексной системы регулирования технологий искусственного интеллекта.
Регулирование ИИ
Регуляторная среда в области ИИ стремительно развивается, различные юрисдикции пытаются адаптироваться к беспрецедентным темпам технологического прогресса. Страны и регионы выбирают разные подходы — от жёсткого регулирования до мягких рамок и саморегулирования. ЕС, например, строит систему на фундаменте прав человека, безопасности и прозрачности технологий.
Ключевые изменения: что должен знать бизнес
Казахстан находится на пороге принятия правовой базы для регулирования искусственного интеллекта. Сейчас вопросы, связанные с ИИ, регулируются действующим законодательством, включая Закон «О персональных данных и их защите» и Закон «Об авторском праве», а также сопутствующими нормативными актами.
Законопроект «Об искусственном интеллекте» (далее — «Законопроект») был возвращен Сенатом в Мажилис (нижняя палата Парламента) после внесения правок 23 октября 2025 года.[1] Поскольку концепция закона была поддержана Сенатом, а предложенные правки носят редакционный и уточняющий характер, не затрагивая правоприменительную практику, они были одобрены депутатами Мажилиса.[2] Таким образом, можно надеяться на скорое подписание Законопроекта Президентом РК. Законопроект вводит базовые принципы регулирования: безопасность, прозрачность, приоритет прав человека, а также обязательную этическую экспертизу ИИ-систем.
За недобросовестное или небезопасное применение ИИ вводится административная ответственность. Под неё могут попасть, например, «неуправляемые» системы или контент, вводящий пользователя в заблуждение. Также в разработке находится сопутствующий закон, который вводит штрафы — до 200 МРП (786 400 тенге) и, в некоторых случаях, запрет на использование конкретной системы ИИ.[3]
Кроме того, Мажилис предложил внести изменения в ряд профильных законов — о СМИ, защите прав потребителей, персональных данных и информатизации, чтобы обеспечить согласованность регулирования.[4] А производители товаров с ИИ-элементами обязаны будут информировать потребителя о возможных рисках[5]. Согласно правкам, внесенным Сенатом в Закон Республики Казахстан «О масс-медиа», распространять медиапродукцию, созданную ИИ, можно будет только при информировании об использовании искусственного интеллекта[6].
В сфере персональных данных законопроект вводит обязательную деперсонификацию данных, собираемых для Национальной платформы ИИ, и ограничивает использование информации, позволяющей установить личность, за исключением случаев, связанных с безопасностью или согласия субъекта данных[7].
Цифровой кодекс — в разработке
Параллельно с законом об ИИ идёт работа над новым Цифровым кодексом — ожидается, что он объединит нормы цифрового регулирования в рамках трёх ключевых направлений[8]:
• Права человека и цифровое гражданство: обеспечение защиты прав личности в цифровой среде.
• Цифровая экономика: регулирование экономической деятельности, основанной на технологиях.
• Цифровое государство: повышение эффективности взаимодействия государства и граждан с использованием цифровых технологий.
В совокупности с законом об ИИ, Кодекс станет двойной нормативной основой, обеспечивающей ответственное внедрение ИИ, защиту прав человека и поддержку технологического развития.
Этические аспекты
Этика — ключевой элемент политики Казахстана в сфере ИИ. В предлагаемых поправках к Закону о персональных данных[9] предусмотрено проведение этической экспертизы ИИ-систем.
Междисциплинарные этические комитеты будут оценивать такие системы на соответствие этическим принципам и правам человека.[10]
В тексте законопроекта и проекта Цифрового кодекса[11] закреплены такие принципы, как объяснимость, безопасность, недискриминационный доступ, подотчётность, приоритет благополучия человека и уважение к свободе воли. Ключевая идея — человек должен оставаться в центре принятия решений и взаимодействия с ИИ.
Персональные данные и защита конфиденциальности
По мере развития ИИ растут и риски — в частности, связанные с автоматическим сбором и обработкой данных. Среди рекомендаций Общественной палаты при Мажилисе — проведение аудитов алгоритмов ИИ с целью предотвращения предвзятости и защиты персональных данных[12].
Предлагаемые поправки в статью 19[13] Закона о персональных данных акцентируют внимание на прозрачности при сборе данных и обязывают информировать субъектов о последствиях обработки данных с использованием ИИ. Без явного согласия или законных оснований данные не могут использоваться для ограничения прав и свобод.
Организациям важно привести обработку данных с использованием ИИ в соответствие с будущими изменениями законодательства. Нарушение этих требований может повлечь штрафы, репутационные риски и ограничения в использовании определённых технологий ИИ.
ИИ и авторское право: правовой вакуум
Активное распространение генеративного ИИ усилило дискуссии вокруг авторских прав и прав интеллектуальной собственности. В настоящее время Закон «Об авторском праве» не содержит прямого регулирования контента, созданного с помощью ИИ, что порождает правовую неопределённость в части авторства и охраны таких произведений.
В соответствии со статьёй 2 Закона «Об авторском праве»[14], автором может быть только физическое лицо. Это означает, что контент, созданный автономно с помощью ИИ, не подлежит охране авторским правом. Если же человек вносит творческий вклад, такое произведение может быть признано охраняемым.
Законопроект предусматривает, что споры, связанные с интеллектуальной собственностью, будут рассматриваться в рамках действующих норм. Это отражает консервативный подход, но оставляет пространство для будущих реформ, которые могут изменить критерии авторства для контента, созданного ИИ. Сенаторами была предложена правка в Законопроект согласно которой охрана авторским правом распространяется на произведения, созданные с помощью ИИ, лишь при условии, что в их создании есть творческий вклад человека[15].
Показательный прецедент: 19 октября 2023 года казахстанскому автору был выдан сертификат о государственной регистрации авторского права на графический роман, созданный при участии ИИ[16].
Последние достижения в области генеративных моделей искусственного интеллекта (GPAI)
Впервые в законодательстве Казахстана вводится система классификации систем искусственного интеллекта (ИИ) в зависимости от уровня риска, который они представляют для личности, общества или государства. Приложения ИИ будут отнесены к одной из трёх категорий: низкий, умеренный и высокий риск.
Особенно важна статья 18 Законопроекта, запрещающая использование и создание полностью автономных систем ИИ. Под такими системами понимаются технологии, способные игнорировать команды и правила, заложенные владельцем, и принимать полностью самостоятельные, потенциально опасные решения.
Риски при работе с поставщиками ИИ
Активное привлечение сторонних поставщиков услуг сопровождается операционными, юридическими и комплаенс-рисками:
Безопасность и конфиденциальность данных: согласно статье 15[17] Законопроекта, третьи лица обязаны обеспечивать надёжную защиту персональных данных и соблюдать требования законодательства.
Надёжность и производительность: необходимо оценивать ИТ-инфраструктуру сторонних поставщиков, чтобы избежать сбоев в собственных ИИ-сервисах.
Прозрачность и подотчётность: В соответствии со статьёй 7[18], компании обязаны раскрывать информацию о принципах работы своих ИИ-систем.
Зависимость от одного вендора: Избыточная концентрация у одного поставщика может ограничивать гибкость и устойчивость технологий.
Для снижения этих рисков компаниям рекомендуется проводить всестороннюю проверку контрагентов, закреплять договорные гарантии, внедрять механизмы контроля (статья 19 Законопроекта)[19] и диверсифицировать поставщиков ИИ-решений.
Международное сотрудничество
Казахстан выразил готовность участвовать в глобальных инициативах по регулированию ИИ. Во время Астанинского форума[20], в 2024 году Президент Казахстана встретился с Генеральным секретарем Совета Европы и заявил о заинтересованности страны в международном сотрудничестве в сфере ИИ.
Хотя Казахстан не является членом Совета Европы, Конвенция Совета Европы об искусственном интеллекте, правах человека, демократии и верховенстве закона допускает участие государств, не входящих в Совет. Однако на данный момент Казахстан еще не предпринял формальных шагов для присоединения.
Законопроект прямо предусматривает: в случае противоречия между национальным законодательством в сфере ИИ и ратифицированным международным соглашением приоритет имеют положения международного соглашения.[21]
[1] Новости — Сенат Парламента Республики Казахстан
[2] Постановление Мажилиса Парламента Республики Казахстан
[3] Поправки в Кодекс Республики Казахстан об административных правонарушениях
[4] О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам искусственного интеллекта
[5] Статья 27 Закона «О защите прав потребителей»
[6] О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам искусственного интеллекта и цифровизации
[7] Закон «Об информатизации»
[8] Проект «Цифровой кодекс», обсуждаемый Министерством цифрового развития
[9] Закон «О персональных данных и их защите»
[10] Рекомендации Общественной палаты по Закону «Об искусственном интеллекте»
[11] Портфель «Цифрового кодекса»
[12] Рекомендации Общественной палаты по Закону «Об искусственном интеллекте»
[13] О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам искусственного интеллекта
[14] Статья 2. Параграф 1 Закона «Об авторском праве»
[15] Новости — Сенат Парламента Республики Казахстан
[16] Автор Forbes.kz получил авторское право на произведение, сгенерированное искусственным интеллектом
[17] Статья 15. Пункт 2. Закона «Об искусственном интеллекте»
[18] Статья 7 Закона «Об искусственном интеллекте»
[19] Статья 19. Пункт 1. Закона «Об искусственном интеллекте»
[20] Toqayev discusses AI at Astana Forum Постановление об учреждении Комитета по искусственному интеллекту
[21] Статья 2. Пункт 2. Закона «Об искусственном интеллекте»
