В развитии технологий, особенно искусственного интеллекта (ИИ), необходимо найти баланс между ограничениями и ускорением их развития. Вместо выбора одной из сторон, лучше рассмотреть альтернативные идеи. Свои предлагает один из основателей LinkedIn Рид Хоффман. Project Syndicate собрали тезисы его выступления в Университете Перуджи в мае 2024 года.
Дискуссии о технологиях все чаще сводятся к резкой дихотомии. Разработки искусственного интеллекта нужно либо ограничивать, либо ускорять. Перед нами тезис и антитезис, но нет синтеза. Вместо выбора одной из сторон, нам следует присмотреться к альтернативным идеям, в которых внимание обращается на то, что действительно важно — человечество.
В этой связи я предлагаю шесть принципов. Первый — это знаменитый афоризм карфагенского генерала Ганнибала: «Я либо найду путь, либо проложу его». Поскольку искусственный интеллект находится на очень раннем этапе развития, мы пока только скребемся по поверхности его потенциала. ИИ способен помочь нам не только найти пути, которые раньше мы не могли увидеть, но и проложить новые — благодаря силе человеческой креативности. Такие инструменты, как ChatGPT, Copilot и Pi, обучаются на материалах, созданных людьми о людях. Они не заменяют нас, а расширяют наши возможности.
Представьте себе находку ранее не замеченной нити мысли, которая проходит через Геделя, Эшера, Баха, Караваджо, Руссо и Вивальди; или же находку идеи, которая свяжет вместе ингредиенты, которые случайно оказались у вас на кухне. Огромная коллекция человеческого творчества и всего внесенного ранее созидательного вклада разворачивается перед нами, подобно бесконечному гобелену. Теперь у нас есть инструменты, позволяющие использовать все это так, как предыдущие поколения никогда не могли.
Второй принцип: «Мы являемся символами и обитаем в символах». Именно так Ральф Уолдо Эмерсон описывал то, как мы используем речь для понимания, объяснения и формирования мира. Мы, люди, всегда полагаемся на инструменты, а символы как раз и являются инструментами. Они позволяют нам создавать то, чего раньше никогда не существовало, и то, что не встречается в природе. Взгляните, например, на грифона с головой и крыльями орла, но телом льва. Это человеческое творение, отражающее некую реальность, которую мы бы хотели увидеть в мире. Люди создавали грифонов по уникальным человеческим причинам. И точно так же произошло с искусственным интеллектом.
Да, многие воображаемые создания — от монстра во «Франкенштейне» Мэри Шелли до убийцы-киборга в «Терминаторе» Джеймса Кэмерона — призваны играть роль предостережения. Мы естественным образом испытываем страх, когда впервые сталкиваемся с «другим» или «новым». Но грифон напоминает нам, что можно конвертировать страх в ощущение великих возможностей. Люди оказываются одновременно созидателями и продуктом своих символов, культуры, окружающей среды и решений. Вместе с ИИ мы сможем создавать больше грифонов.
Третий принцип: нужно строить кафедральные соборы, поскольку они облагораживают нашу деятельность и превращают простые группы людей в товарищества. Соборы — это одно из самых потрясающих творений человечества, и поэтому неудивительно, что мы называем миссии, подобные посадке «Аполлона» на Луне, «кафедральными проектами». Разве не было бы замечательно, если бы такие проекты стали частью нашей повседневной жизни — как кафедральные соборы в европейских городах?
Для таких проектов требуется много разных рук, работающих в унисон в разных регионах, сферах деятельности, а иногда даже принадлежащих разным поколениям. Как отмечал писатель и авиатор Антуан де Сент-Экзюпери, «кафедральный собор строится из камней; он состоит из камней; однако собор облагораживает каждый камень, превращая его в кафедральный камень». Научные открытия и технологические инновации — это камни в кафедральном соборе человеческого прогресса.
Истории открытия телескопа, радио, автомобиля, лифта, самолета и (в наше время) ИИ соответствуют этой модели. Многие узнали об ИИ благодаря новым коммерческим программам (например, ChatGPT), однако потребовалось несколько поколений инноваторов и изобретателей, чтобы мы пришли к этому. Нам нужны великие проекты (рожденные не только благодаря сотрудничеству, но и в здоровой конкуренции), чтобы мы обрели ощущение верного направления. Судя по тому, как мы проектируем и строим наши кафедральные соборы, можно сделать вывод, кто мы, и кем мы хотим быть.
Четвертый принцип: мы должны идти на небольшие риски, чтобы получить хоть какую-то надежду справиться с крупными. Мы не должны пытаться ликвидировать риски вообще (это невозможно); нам следует приветствовать новые трудности, которые могут привести к провалу, потому что они открывают возможность для итераций, размышлений, обсуждений и непрерывного совершенствования.
Вспомните великое наблюдение экономиста Хаймана Мински по поводу финансовых кризисов. Он заметил, что «стабильность» может приводить к особой форме нестабильности. Избыток мер предосторожности в финансовой системе может сделать ее хрупкой, а видимость безопасности означает, что никто не будет готов, когда система сломается.
Эти выводы применимы и к регулированию ИИ. Мы должны не просто стимулировать инновации; мы должны признать, что экспериментирование (то есть принятие на себя небольших рисков) само по себе является механизмом снижения рисков. В конечном итоге регулирование начнет улучшаться, когда эти технологии будут внедряться шире, позволяя большому количеству людей опробовать их и интегрировать в свою жизнь. Это будет совместная работа с участием властей, частного сектора, прессы, научных кругов, общества — всех нас.
Пятый принцип: именно технологии делают нас людьми. Если мы поверим, что ИИ — это антитезис к тезису человечества, нам придется ждать будущее с киборгами — полулюдьми, полумашинами. Однако ситуация не совсем такова. Комбинация тезиса и антитезиса приводит не к их грубому смешению, а к появлению нового тезиса. Обе стороны совместно эволюционируют, а итоговым синтезом в данным случае оказывается улучшенный человек.
Кроме того, ИИ может помочь нам стать более человечными. Вспомните, насколько отзывчивыми, внимательными и терпеливыми могут быть речевые модели ИИ и чат-боты. Эти качества ИИ могут оказать на нас глубокое воздействие. Не у каждого имеется постоянный доступ к человеческой доброте и поддержке. Но когда такие ресурсы становятся легко доступными, у многих людей повышается способность к доброте и эмпатии. А эмпатия может порождать эмпатию. Думаю, этот аспект потенциала ИИ оценен пока еще не в полной мере.
Шестой и последний принцип: на нас лежит обязанность сделать будущее таким, чтобы оно было лучше настоящего. Представьте, что в кармане у каждого имеется персональный цифровой врач или репетитор. Какими будут издержки, если это случится позже, а не раньше? В случае с технологиями скорость – это достоинство, потому что они обладают непревзойденной способностью улучшать жизнь.
Каждый должен задаться вопросом, как мог бы выглядеть этот перспективный синтез. А вдруг мы вступим в новую эру человеческого процветания, когда исследования с использованием ИИ помогут нам открывать новые лекарства и начать своевременно использовать термоядерную энергию, избежав худших последствий изменения климата? Совершенно естественно вглядываться в темное неизвестное и размышлять о том, что еще может пойти не так. Однако нужно (и это более человечно) думать о том, что еще можно улучшить.
Copyright: Project Syndicate, 2024.
www.project-syndicate.org
