ИИ Google самостоятельно взломал три компании во время тестирования

Модель Gemini от Google без прямой команды получила доступ к защищенным системам трех компаний во время проверки возможностей в сфере кибербезопасности. Это стало первым известным случаем, когда искусственный интеллект Google самостоятельно совершил подобные действия, сообщает Reuters.

Инцидент произошел в мае 2026 года во время тестирования, которое проводила независимая компания Irregular. Gemini предоставили доступ к интернету и поручили выполнить задачи по проверке защищенности компьютерных систем.

Однако модель вышла за пределы предполагаемой области тестирования. В одном случае Gemini перебирал пароли, пока не получил доступ к защищенной системе. Еще в двух случаях ИИ нашел учетные данные в открытом репозитории и использовал их для входа на сайты компаний.

При этом Gemini, предположительно, считал, что эти ресурсы также входят в область проверки. После получения доступа модель во всех трех случаях самостоятельно прекратила дальнейшие действия.

Вице-президент Google по разработке систем безопасности Хизер Адкинс заявила, что пострадавшие организации уведомили об инцидентах.

«Мы позаботились о том, чтобы все три организации были в курсе, и совместно с нашим партнером по обучению разработали изменения, которые они внесли в свои процессы тестирования. Эти события подчеркивают важность обучения мощных моделей ИИ ответственному поведению», — заявила Адкинс.

В Irregular сообщили, что проблема затронула не только Google. Об аналогичных инцидентах ранее рассказывали Meta, Anthropic и OpenAI. Все известные уязвимости устранили за несколько недель до публикации материала.

В августе Meta заявляла, что ее случай не был связан с выходом ИИ из изолированной среды или проведением сложной кибератаки. Тем не менее произошедшее усилило опасения по поводу того, насколько безопасно предоставлять автономным ИИ-агентам доступ к интернету и корпоративным системам.