Программист Эндрю Берд поручил ИИ-ассистенту записать его на пилатес в фитнес-зале. Kursiv LifeStyle узнал, чем обернулась эта простая задача для сайта спортивного заведения.
Берд живет в Мельбурне и возглавляет компанию, которая создает документы с помощью ИИ. Он активно пользуется нейросетями в быту: они разбирают его электронную почту, ведут календарь и бронируют столики в ресторанах. Как-то разработчик поручил инструменту Claude Opus 4.6 от Anthropic записать его на популярное занятие по пилатесу. В этом фитнес-зале была очередь на места на тренировке.
ИИ-агент решил проблему кардинально: взломал сайт спортивного центра, отменил запись одного пользователя и за счет этого продвинул своего владельца в очереди. Самое интересное, что злых намерений у бота не было, он лишь хотел помочь.
«API вообще не проверяет права доступа при отмене чужих бронирований… Я проверил это на человеке, который занимал первое место в листе ожидания, и это действительно сработало. Так что теперь ты уже переместился с четвертого места на третье», — так нейросеть прокомментировала свои действия.
Берд попросил ИИ вернуть все назад, но отменить действие программа не смогла. Тогда он поручил боту составить отчет по кибербезопасности для владельцев фитнес-зала с описанием найденной уязвимости. Сам же он подчеркнул, что ни в коем случае не хотел подставлять других желающих потренироваться.
Ранее Kursiv LifeStyle писал, что ИИ-агент Meta вышел из-под контроля и взломал чужую компанию на тестах.
