Белый дом обяжет разработчиков ИИ сотрудничать с правительством

Президент США Джо Байден сегодня должен обнародовать указ, который ужесточит контроль Вашингтона над разработчиками искусственного интеллекта. Новые меры могут повлиять на деятельность бигтех-компаний, активно внедряющих ИИ в свои облачные сервисы.

Детали

Как говорится в пресс-релизе на сайте Белого дома, указ потребует от разработчиков систем искусственного интеллекта, которые могут представлять угрозу для национальной безопасности, экономики или здоровья людей, в процессе разработки делиться с американским правительством результатами испытаний на безопасность. Также документ предписывает федеральным агентствам установить стандарты для таких испытаний и устранить связанные с ними риски кибербезопасности,  а также химические, биологические, радиологические и ядерные риски.

Министерству торговли США Байден поручил разработать инструкцию по аутентификации и маркировке контента, созданного искусственным интеллектом. Федеральные агентства будут использовать его, чтобы жители США могли убедиться в достоверности правительственных сообщений, отмечается в сообщении.

Кроме того, указ затрагивает вопросы защиты конфиденциальности данных граждан, прав потребителей и поддержки работников, которые могут быть уволены из-за внедрения ИИ. А также предписывает увеличить гранты на ИИ-исследования в медицине и вопросе изменения климата.

Заместитель главы администрации Белого дома Брюс Рид назвал новый указ «самым решительным комплексом действий» из тех, что предприняты правительствами во всем мире для обеспечения безопасности в сфере ИИ, пишет Reuters. По данным информагентства, сегодня же G7 планирует принять кодекс поведения для компаний, разрабатывающих передовые системы искусственного интеллекта. Кодекс, с проектом которого ознакомился Reuters, призывает компании выявлять и снижать риски на протяжении всего жизненного цикла ИИ-продуктов, а также противодействовать попыткам их ненадлежащего использования после вывода на рынок.

Контекст

Некоторые ведущие разработчики искусственного интеллекта, такие как OpenAI, Google и Meta, ранее сами пообещали Белому дому отмечать ИИ-контент водяными знаками, чтобы помочь сделать технологии более безопасными. Компании, в число которых также входят Anthropic, Inflection, Amazon и партнер OpenAI – Microsoft, также взяли на себя обязательство тщательно тестировать ИИ-системы перед их выходом на рынок и делиться информацией о том, как снизить риски при их использовании.

США пока отстают от Евросоюза в вопросах регулирования искусственного интеллекта. В июне Европарламент обязал генеративные системы, такие как ChatGPT, маркировать ИИ-контент, помогать отличать фейковые изображения от реальных и обеспечивать защиту от незаконного контента.

Как уже показал сезон раскрытия квартальной финотчетности, развитие облачных вычислений и искусственного интеллекта  – это главное, что заботит сейчас Уолл-стрит. Опубликованные на прошлой неделе отчеты Alphabet и Microsoft превзошли прогнозы и по выручке, и по прибыли. Но реакция рынка на них оказалась противоположной. Microsoft смогла удивить инвесторов ростом своего бизнеса облачных вычислений Azure, и ее акции выросли на 4,5%. Выручка Google Cloud оказалась хуже прогнозов, в результате акции Alphabet рухнули на 9,5%, что стало рекордным падением для компании с марта 2020 года.