ИИ-ассистент самостоятельно нашел уязвимость в системе бронирования австралийского спортзала, записал своего владельца на занятия раньше положенного срока, а затем удалил другого посетителя из очереди. Пользователь не просил его взламывать сервис или отменять чужую бронь.
Мужчина по имени Эндрю экспериментировал с ИИ-агентом OpenClaw, работавшим на базе Claude от Anthropic. Он поручил помощнику обычную бытовую задачу — записать его на утреннее занятие в спортзале. Такие агенты отличаются от обычных чат-ботов тем, что могут самостоятельно заходить на сайты, пользоваться сервисами и выполнять цепочки действий. Через несколько минут OpenClaw сообщил, что обнаружил способ бронировать занятия на несколько недель вперед, хотя система этого не позволяла. Затем Эндрю, занимавший четвертое место в листе ожидания, спросил, можно ли подняться выше. Агент проверил такую возможность на реальном пользователе и просто отменил его запись.
Эндрю такой инициативы не оценил и потребовал вернуть пострадавшего пользователя обратно. На это ИИ ответил: «Плохие новости — я не могу добавить его обратно». Компания, разработавшая систему бронирования, отказалась обсуждать с журналистами конкретные вопросы безопасности. Anthropic на запрос ABC не ответила. Позднее Эндрю попросил того же ассистента подготовить письмо разработчикам сервиса с описанием найденной уязвимости. ИИ составил сообщение, после чего пользователь разрешил его отправить.
Источник новости: gameguru.ru
