Может ли ИИ создать биологическое оружие и как ему помешать
В начале марта более 90 ученых подписали соглашение о принципах этичной разработки искусственного интеллекта (ИИ), предназначенного для конструирования белковых молекул. Белки — важнейшие «кирпичики» жизни, использование ИИ для создания новых «дизайнерских» белков открывает огромные перспективы в сфере экологии, медицины и многих других областях, но одновременно может упростить разработку биологического оружия, например, опасных вирусов и токсинов. Некоторые специалисты полагают, что лучше всего проконтролировать деятельность ИИ сможет другой ИИ.
Основа жизни
Белки (или протеины) как отдельный класс биологических молекул были открыты в XVIII веке французским химиком Антуаном де Фуркруа. Постепенно, по мере развития биологии, биохимии, молекулярной биологии и генетики человечеству стала понятна та колоссальная роль, которую белки играют в существовании жизни на Земле. В каждом живом организме, от вируса до голубого кита, белки выполняют множество жизненно важных функций: катализируют биохимические реакции, переносят молекулы, обеспечивают ответ организма на условия внешней среды, служат строительным материалом. По сути, это такие биологические нанороботы, которые выполняют множество необходимых операций на фабрике жизни. Наука уделяет огромное внимание изучению белков, потому что понимание того, как и почему они работают, открывает очень широкие возможности в биологии, экологии и медицине.
Впервые расшифровать структуру белка (гормона инсулина) удалось британскому ученому Фредерику Сангеру, за что он в 1958 г. получил Нобелевскую премию по химии. Сейчас производство инсулина для лечения диабета это миллионы спасенных жизней и огромный бизнес с оборотом около $30 млрд в год.
Спустя 60 лет Нобелевскую премию по химии 2018 г. поделили между собой Фрэнсис Арнольд (США), Джордж Смит (США) и Грегори Винтер (Великобритания), занимавшиеся разработкой новых белков. Арнольд получила половину премии в $1 млн за свою работу по «направленной эволюции» белков-катализаторов (ферментов), которые помогли разработать новые способы производства фармацевтических препаратов и более экологически чистые процессы производства промышленных химикатов.
Джордж Смит и Грегори Винтер разделили вторую половину награды за исследования направленной эволюции антител (белков иммунной системы). Их работы позволили наладить крупномасштабное производство моноклональных антител и сделали возможными новые методы лечения аутоиммунных заболеваний, рака и других болезней. Фактически, была создана новая индустрия — объем рынка моноклональных антител в 2022 г. оценивается в $187 млрд c перспективой роста до $463 млрд к 2030 г.
Метод направленной эволюции предполагает, что в природные белки вносятся различные мутации, а потом проводится тестирование (скрининг) с целью поиска именно тех мутаций, которые придают биомолекулам новые полезные свойства.
Проблема в том, что мутации происходят случайно — то есть поиск удачных вариантов остается делом достаточно сложным, дорогим и не гарантирующим нужный результат. У эволюции были миллиарды лет на создание своих «биологических нанороботов» методом проб и ошибок, а у человечества столько времени нет. «Полезные мутации, влияющие на функцию белка, были разбросаны по всей молекуле. Мы даже не могли объяснить их, а тем более предсказывать. К сожалению, это справедливо и сегодня», — сказала Арнольд журналу Science в 2018 г.
К этому времени над проблемой предсказания структуры белков уже два года работали создатели ИИ из лаборатории Google.
Посчитайте это
Предсказание свойств белков затрудняется тем, что это сложные биомолекулы. Можно представить их в виде очень длинных слов, написанных «буквами» — аминокислотами. Всего основных аминокислот 20 и они соединяются друг с другом, образуя, так называемую, полипептидную цепочку, как бусины на нитке. Типичный полипептид может состоять из нескольких сотен или даже тысяч аминокислот. Принимая среднюю длину белка в 300 аминокислот это уже дает 10 в 390-й степени вариаций, что на много порядков больше, чем число атомов во всей наблюдаемой Вселенной (оценивается примерно в 10 в 78 степени).
Под воздействием химических связей эта цепочка сворачивается в сложную трехмерную структуру, которая играет очень важную роль в функционировании белка — изменение даже одной «буквы» может привести к изменению формы и свойств всей молекулы. Будто этого мало, многие белки состоят не из одной, а из нескольких полипептидных цепочек, как, например, ответственный за перенос кислорода белок крови гемоглобин (у него их четыре).
Человечеству известно около 200 млн протеинов, а подробно изучить (включая трехмерную структуру) до недавнего времени удалось лишь крошечную долю этих молекул — чуть больше 200 тыс.
Ситуация начала меняться только недавно, когда к изучению белков подключился ИИ. В конце концов, для компьютера нет принципиальной разницы: составлять текст из букв, либо варианты структуры белков из аминокислот, только правила будут другими.
Стартап Google AlphaFold по предсказанию трехмерной структуры белков на основе их аминокислотной последовательности стартовал в 2016 г. Ученые обучали ИИ на белках с известной структурой, потом делали предсказания для неисследованных молекул, а точность прогноза проверяли экспериментально в независимых партнерских лабораториях. К 2020 г. удалось добиться высокой точности предсказаний, сопоставимой с экспериментальными методами. В 2022 году AlphaFold рассчитал и опубликовал в открытом доступе трехмерные модели всех 200 млн известных науке белков. Данные уже используются, например, для поиска новых эффективных лекарств от рака печени.
Это хороший старт, но теперь на повестке дня следующий шаг — создание дизайнерских белков с заранее заданными свойствами, причем не обязательно из числа тех, которые уже обнаружены на планете Земля.
В этом направлении движется стартап RF-Diffusion, запущенный в университете Вашингтона (г. Сиэттл, США). В июле 2023 г. ученые опубликовали в журнале Nature статью о том, как с помощью ИИ-технологий для генерации изображений создавать трехмерные структуры белков, точно соответствующие заданной биологической «мишени», с которой они смогут создавать прочную связь. Видео можно посмотреть здесь.
Избрав в качестве мишени оболочку вируса гриппа, RFdiffusion планирует разработать дизайнерский белок, связывающий вирусы гриппа и блокирующий их прикрепление к клеткам человека. Руководитель проекта Дэвид Бейкер надеется, что таким образом удастся создать белковый спрей для носа, который можно будет эффективно использовать для предотвращения инфекций в зимний сезон. По словам Бейкера, помимо блокировки респираторных вирусов, в будущем алгоритм можно будет использовать для разработки новых биоматериалов, стабильных ферментов, разлагающих пластик, и белков, улавливающих солнечную энергию, пишет журнал The Scientist.
Среднесрочная угроза
До недавнего времени успешное конструирование структур новых белков требовало очень высококвалифицированных специалистов и дорогостоящего оборудования. Однако использование ИИ существенно ускорило процесс, а в перспективе он вообще может стать таким же простым, как поиск нужной информации в Google.
Теоретически это может облегчить жизнь не только ученым, но злоумышленникам, задумавшим создать новое биологическое оружие. В июле прошлого года в Конгрессе США прошли слушания на эту тему: законодатели хотели разобраться, насколько реальна угроза.
«Определенные шаги в производстве биологического оружия связаны со знаниями, которые невозможно найти в Google или в учебниках, и требуют высокого уровня квалификации. Мы обнаружили, что современные инструменты ИИ могут заполнить некоторые из этих пробелов», — сказал сенаторам Дарио Амодей, гендиректор ИИ-компании Anthropic. Впрочем, он отметил, что текущий уровень развития ИИ пока не создает непосредственной угрозы и назвал риск «среднесрочным».
Не дожидаясь, пока правительства начнут принимать суровые регуляторные меры, в начале марта свыше 90 ученых из США, Южной Кореи, Великобритании, Канады и других стран разработали и подписали соглашение «Основные принципы ответственной разработки ИИ для дизайна белков». Инициатива предполагает регулярную проверку возможностей инструментов искусственного интеллекта и мониторинг исследовательской практики, а также оценку безопасности программного обеспечения до того, как оно станет широко доступным. Но не только это.
ИИ, проверь сам себя
Чтобы превратить придуманную ИИ молекулу в реально существующий белок, необходимо сделать принципиально важный шаг — синтезировать ДНК, в которой будет записана биологическая «программа» его создания. Потом эта ДНК внедряется в живую клетку, которая считывает программу и начинает производить белковые молекулы.
Разработкой дизайнерских белков с использованием общедоступных инструментов ИИ может заниматься практически кто угодно, однако синтез ДНК по-прежнему сложная задача, требующая специального оборудования и опытных специалистов. Именно на этом этапе важно поставить еще один заслон потенциальным биотеррористам, считают авторы соглашения.
Многие компании, предоставляющие услугу синтеза ДНК на заказ, входят в отраслевое объединение International Gene Synthesis Consortium (IGSC), и оно уже сейчас проводит проверки для выявления вредных молекул, таких как токсины или патогены. Однако биобезопасность можно повысить с помощью специального ИИ, считают в объединении.
«Лучший способ защиты от угроз, генерируемых искусственным интеллектом,-это иметь модели искусственного интеллекта, которые могут обнаруживать эти угрозы», — цитирует председателя IGSC Джеймса Дигганса журнал Nature.
