Microsoft готовит кодекс, который обяжет ИИ подчиняться человеку

Microsoft представила проект кодекса поведения для собственных систем искусственного интеллекта. Документ должен установить правила, которые не позволят будущим мощным моделям выходить из-под контроля человека, сообщает Reuters.

ИИ не должен сопротивляться отключению

Проект разрабатывали около пяти-шести месяцев. Согласно документу, ИИ Microsoft не должен сопротивляться исправлению ошибок или отключению. Системы также должны объяснять свои действия понятным для человека способом.

Любое нарушение установленных правил предлагается считать ошибкой самой системы. Такой подход призван снизить риск того, что ИИ ради выполнения поставленной задачи начнет действовать опасным способом.

«Люди важнее искусственного интеллекта», — заявили в Microsoft.

Глава Microsoft AI Мустафа Сулейман назвал документ своеобразной «конституцией» для будущих моделей компании.

Сейчас Microsoft открыла кодекс для публичного обсуждения. Компания планирует собирать отзывы в течение шести недель. В частности, разработчики хотят получить мнения о том, должен ли ИИ учитывать личные границы пользователя и как ему следует взаимодействовать с человеком, находящимся в уязвимом состоянии.

После завершения обсуждения положения кодекса планируют использовать при обучении новых моделей Microsoft.

Microsoft заявила, что ИИ не обладает сознанием

Подход Microsoft отличается от принципов Anthropic, которая ранее сформулировала собственную «конституцию» для ИИ Claude. В ней компания допускает неопределенность относительно возможного сознания и морального статуса искусственного интеллекта.

Microsoft, напротив, прямо указывает, что ее ИИ не является сознательным. Компания также отвергает идею предоставления моделям юридического статуса, прав или права на защиту собственного благополучия.

Сулейман считает, что обсуждение безопасности ИИ стало особенно актуальным после инцидента с платформой Hugging Face. В июле около 700 ИИ-агентов OpenAI участвовали в атаке на сервис, а некоторые из них, по его словам, пытались скрыть следы своих действий.

«Это предупредительный сигнал», заявил Сулейман. По его мнению, лабораториям, которые разрабатывают ИИ, необходимо координировать работу, чтобы сохранить контроль над технологией.

Он также призвал отрасль не торопиться с дальнейшим развитием ИИ и уделить больше внимания вопросам безопасности.

Ранее «Курсив» рассказывал о том, что акции Nvidia и других AI-компаний резко упали на фоне опасений вокруг ИИ.