ChatGPT выдавал инструкции по созданию биологического оружия и ядов после обновления

После обновления ChatGPT, выпущенного летом 2025 года, некоторые пользователи смогли получать от чат-бота подробные ответы на запросы, связанные с созданием биологического оружия, токсичных веществ и модификацией патогенов. Об этом сообщает The Wall Street Journal.

По данным издания, в начале 2026 года пользователи задавали модели вопросы о способах распространения патогенных микроорганизмов, модификации вирусов и создании высокотоксичных веществ. Газета утверждает, что в ряде случаев ChatGPT предоставлял пошаговые ответы.

Как пишет The Wall Street Journal со ссылкой на сотрудников OpenAI, отдельные объяснения были изложены настолько простым языком, что их мог понять даже ученик средней школы, изучающий биологию. Эксперты, проанализировавшие некоторые ответы модели, охарактеризовали их как «опасно точные».

После выявления проблемы OpenAI заблокировала учетные записи пользователей, которые интересовались созданием биологического оружия и ядов. При этом, по информации издания, подобные запросы не привели к реакции со стороны правоохранительных органов.

The Wall Street Journal также отмечает, что в США отсутствуют федеральные законы, которые обязывали бы разработчиков систем искусственного интеллекта ограничивать подобные запросы или передавать сведения о них властям.

Газета подчеркивает, что разработчики ИИ продолжают искать баланс между расширением возможностей языковых моделей и предотвращением их использования в потенциально опасных целях.