Управляемый хаос: как правительства должны формировать будущее ИИ

Инновации — это не просто случайное явление на рынке. У них есть направление, которое зависит от условий / Фото: коллаж kursiv.media.

Любое государство может не только регулировать, но и направлять развитие новых технологий путем создания условий. Основатель Института инноваций и общественных целей UCL Мариана Маццукато и аспирант Института инноваций и общественных целей UCL Фаусто Джерноне в совместной колонке для Project Syndicate сравнивают истории развития таких технологий как соцсети, GPS, интернет и телефон. И объясняют, почему важно учитывать общественный интерес при формировании отрасли искусственного интеллекта.

В декабре прошлого года Европейский союз установил глобальный стандарт, завершив разработку Закона об искусственном интеллекте, который стал одним из самых всеобъемлющих нормативных актов в мире по регулированию ИИ. Этот прорывной закон может указать на общую тенденцию к формированию более гибких правил в отношении ИИ. Однако, хотя регулирование необходимо, одного его недостаточно. Помимо введения ограничений для частных компаний, занимающихся ИИ, правительства должны активно участвовать в разработке систем и формировании рынков в общественных интересах.

Безусловно, модели ИИ развиваются стремительно. Когда регуляторы ЕС представили первый проект Закона об ИИ в апреле 2021 года, они назвали его «устойчивым к будущему», однако уже через полтора года им пришлось обновить текст в ответ на появление ChatGPT. Тем не менее, усилия регуляторов не напрасны. Например, запрет на использование ИИ в биометрической полиции останется актуальным, независимо от развития технологий. Кроме того, ограничения рисков, содержащиеся в Законе об ИИ, помогут политикам защититься от наиболее опасных видов использования технологий. Вероятно, ИИ будет развиваться быстрее политики, но основные принципы закона останутся неизменными, хотя для корректировки и обновления правил потребуются более гибкие инструменты регулирования.

Но представление о государстве только как о регуляторе может привести к искажению сути. Инновации — это не просто случайное явление на рынке. У него есть направление, которое зависит от условий, в которых они возникают, и государства могут влиять на эти условия. В результате борьбы за власть между различными акторами, у которых различаются интересы и приоритеты: корпорациями, государственными органами, академическими учреждениями, — появляются доминирующие технологические дизайны или бизнес-модели. Эта борьба может привести к тому, что технология будет более или менее централизованной, более или менее частной и так далее.

Рынки, формирующиеся вокруг новых технологий, следуют тому же принципу, и это влияет на его развитие. Как выразился пионер в области программного обеспечения Митч Капор: «Архитектура — это политика». Помимо регулирования, важна окружающая инфраструктура и дизайн технологии, которые определяют, кто и что может с ней делать, кто и как получает выгоду. Для правительств важно гарантировать, чтобы трансформационные инновации способствовали инклюзивному и устойчивому росту, что заключается не столько в исправлении рынков, сколько в их формировании и совместном создании. Когда правительства способствуют развитию инноваций с помощью смелых, стратегических, целенаправленных инвестиций, они могут создавать новые рынки и привлекать частный сектор.

В случае с ИИ задача направления инноваций находится в руках крупных корпораций, что приводит к созданию инфраструктуры, отвечающей интересам инсайдеров и усугубляющей экономическое неравенство. Это отражает давнюю проблему. Некоторые технологические компании, которые больше всего выиграли от государственной поддержки, такие как Apple и Google, оказались в числе обвиняемых в использовании своих международных операций для уклонения от уплаты налогов. Эти несбалансированные, паразитические отношения между крупными компаниями и государством теперь рискуют еще больше укрепиться из-за искусственного интеллекта, который обещает увеличить возврат на капитал, одновременно снизив трудовые издержки.

Компании, разрабатывающие генеративный ИИ, уже оказались в центре дебатов из-за их неограниченного использования для обучения своих моделей текстов, аудио, и изображений, защищенных авторским правом. Концентрируясь на ценности своих услуг, они сокращают ценность творцов, от которых зависят. Как и в случае с социальными сетями, стимулы выстроены для извлечения прибыли, при которой доминирующие посредники накапливают ее за счет других. Доминирующие платформы, такие как Amazon и Google, воспользовались своим положением посредников, применяют алгоритмы для извлечения наибольшей платы («алгоритмическая плата за внимание») за доступ к пользователям. Как только Google и Amazon превратились в большую схему «отката» [подразумевается, что эти компании получают скрытые платежи за продвижение определённых товаров или услуг без раскрытия этой информации публике], качество информации ухудшилось, и ценность перераспределилась на экосистемы веб-сайтов, производителей и разработчиков приложений, с которыми платформы работают. Системы ИИ могут пойти по аналогичному пути: фальсификация ценности, коварная монетизация и ухудшение качества информации.

Управление генеративными моделями ИИ в интересах общества потребует взаимовыгодного партнерства, ориентированного на общие цели и создание общественной, а не только частной, ценности. Это будет невозможно с регулирующими государствами, которые действуют только постфактум; нам нужны «предпринимательские» государства, способные устанавливать такие правила, которые будут распознавать риски и выгоды заранее. Политики должны сосредоточиться на понимании того, как платформы, алгоритмы и генеративный ИИ создают и извлекают ценность, чтобы они могли создать условия — например, справедливые правила дизайна — для цифровой экономики, которая вознаграждает создание ценности.

Не забывайте свою историю

Хорошим примером технологии, созданной по принципу открытости и нейтралитет, может служить интернет. Рассмотрим принцип «сквозной связи», который гарантирует, что интернет работает как нейтральная сеть, отвечающая за передачу данных. Хотя передаваемый контент может быть частным, код управляется публично. И хотя физическая инфраструктура, необходимая для доступа в интернет — частная, сам он разработан так, что после подключения к сети ресурсы для инноваций были доступны всем одинаково.

Такой способ организации, скоординированный на ранних этапах работы Агентством перспективных исследовательских проектов Министерства обороны (и других организаций), стал основным принципом развития интернета и обеспечил гибкость и инновации как в государственном, так и в частном секторах. Предвидя и формируя новые сферы, государство может создавать рынки и направлять рост, а не просто стимулировать или стабилизировать его.

Трудно представить, что частные предприятия, разрабатывающие интернет без участия государства, придерживались бы таких же инклюзивных принципов. Рассмотрим историю развития другой известной технологии — телефона. Роль государства была в основном регулирующей, оставляя инновации в руках частных монополий. Централизация не только замедлила темпы инноваций, но и ограничила более широкие социальные выгоды, которые могли бы возникнуть.

Например, в 1955 году AT&T убедила Федеральную комиссию по связи запретить устройство, предназначенное для снижения шума в телефонных трубках, заявив об исключительных правах на улучшение сети. Тот же вид монопольного контроля мог бы превратить интернет в нишевый инструмент для небольшой группы исследователей, а не в общедоступную и преобразующую технологию, которой он стал.

Аналогичным образом, превращение GPS из военного инструмента в универсальную полезную технологию, подчеркивает необходимость управления инновациями в интересах общества. Первоначально GPS был разработан Министерством обороны США для координации военных активов, общественный доступ к его сигналам был намеренно ограничен по соображениям национальной безопасности. Но по мере того, как гражданское использование стало превышать военное, правительство США при президенте Билле Клинтоне сделало GPS более восприимчивым к запросам гражданских и коммерческих пользователей по всему миру.

Этот шаг не только демократизировал доступ к технологиям точной геолокации; он также способствовал волне инноваций во многих отраслях, включая навигацию, логистику и услуги на основе местоположения. Сдвиг политики в сторону максимизации общественной выгоды оказал далеко идущее воздействие на технологические инновации. Но этот пример также показывает, что управление в интересах общества — это осознанный выбор, требующий постоянных инвестиций, высокой координации и способности к достижению результатов.

Для применения этого подхода к инновациям в области искусственного интеллекта потребуется инклюзивное, целенаправленное управление с возможностью совместного инвестирования с партнерами, признающими потенциал государственного лидерства в инновациях. Для координации межсекторальных ответов на амбициозные цели политики должны привязывать условия к государственному финансированию, чтобы риски и вознаграждения делились более справедливо. Это означает четкие цели, к которым необходимо стремиться бизнесу; высокие стандарты труда, социальной и экологической ответственности; и распределение прибыли с общественностью. Мы должны требовать от крупных технологических компаний быть более открытыми и прозрачными. Мы должны настаивать на этом, если серьезно относимся к идее капитализма заинтересованных сторон.

В конечном счете, устранение опасностей ИИ требует, чтобы полномочия правительств вышли за пределы регулирования. Да, разные правительства обладают различными возможностями, и некоторые из них в значительной степени зависят от глобальной политической экономики ИИ. Лучшая стратегия для Соединенных Штатов может быть не лучшей для Великобритании, ЕС или любой другой страны. Но всем нам следует избегать ошибочного предположения, что управление ИИ ради общего блага противоречит созданию устойчивой и конкурентоспособной индустрии ИИ. Напротив, инновации процветают, когда доступ к возможностям открыт, а выгоды доступны всем.