Со 2 августа в Евросоюзе вступят в силу новые требования Закона об искусственном интеллекте. Компании должны будут обеспечить маркировку дипфейков и другого контента, созданного или измененного с помощью нейросетей, сообщает Euronews.
Новые правила распространяются на разработчиков ИИ-систем и компании, которые профессионально используют такие технологии. В частности, поставщики генеративных моделей должны внедрить машиночитаемые метки, позволяющие определить искусственное происхождение изображения, аудио, видео или текста.
Пользователей также должны предупреждать, если они взаимодействуют с чат-ботом или другим ИИ-сервисом.
Дипфейки потребуют заметной маркировки
Более строгие требования предусмотрены для дипфейков — реалистичных изображений, аудиозаписей или видеороликов, которые имитируют внешность, голос или действия реальных людей.
Создатели и распространители таких материалов должны ясно указывать, что контент был сгенерирован или изменен искусственным интеллектом.
Аналогичные требования распространяются на созданные ИИ тексты, посвященные общественно значимым темам, если они публикуются без полноценного редакционного контроля.
Для художественных, сатирических, юмористических и вымышленных произведений могут действовать смягченные требования, однако искусственное происхождение материала все равно должно быть раскрыто в подходящей форме.
Почему ЕС усиливает контроль
В Евросоюзе опасаются, что развитие генеративных технологий делает поддельные изображения, видео и аудиозаписи все более реалистичными.
ИИ-контент может использоваться не только в творческих целях, но и для распространения ложной информации, политических манипуляций и создания откровенных материалов с участием реальных людей без их согласия.
Одним из известных примеров стало поддельное видео 2022 года, на котором президент Украины Владимир Зеленский якобы призывал военнослужащих сложить оружие.
В 2024 году в интернете также распространились откровенные изображения певицы Тейлор Свифт, созданные при помощи ИИ без ее согласия.
Почему маркировка может не сработать
Эксперты сомневаются, что новые правила удастся эффективно применять на практике.
Одна из проблем заключается в отсутствии единого технического стандарта. Компании используют разные способы маркировки: водяные знаки, метаданные и системы отслеживания происхождения файлов. Эти решения не всегда совместимы друг с другом.
Кроме того, цифровые метки можно потерять при редактировании, сжатии или пересылке изображения и видео через разные платформы.
Еще одна сложность связана с тем, что интернет-контент не ограничен границами Евросоюза. Дипфейк, созданный за пределами ЕС, может быстро распространиться среди европейских пользователей.
Еврокомиссия считает, что одной технологии недостаточно. Для более надежного выявления ИИ-контента компаниям рекомендуют одновременно использовать несколько методов маркировки и проверки происхождения файлов.
Компании поддержали правила, но предупредили о сложностях
Крупные разработчики ИИ, включая OpenAI и Google, поддержали европейские требования прозрачности и присоединились к добровольному своду практик.
При этом представители отрасли предупреждают, что технологии генерации и обнаружения контента быстро меняются, поэтому нормативные требования придется регулярно обновлять.
Сам свод практик носит добровольный характер. Однако выполнение требований статьи 50 Закона ЕС об ИИ обязательно для компаний, работающих на европейском рынке.
