Claude уничтожил 700 ГБ данных
Разработчик Себастьен Гиймо рассказал в соцсети X, как за один неудачный запуск лишился результатов недельной работы. Причиной стала ошибка в коде, который ИИ-агент Claude написал и сам же решил протестировать.
Гиймо постоянно работает с несколькими ИИ-агентами, и те раз за разом забивали временными файлами папку /tmp. Чтобы навести порядок, разработчик попросил Claude Fable написать скрипт: каждый агент получает отдельный подкаталог в /tmp, а по завершении работы этот каталог автоматически удаляется. Fable предложила сложную систему с проверкой активных процессов. Когда Гиймо попросил упростить решение, агент взял инициативу в свои руки: прежде чем отдать код, решил проверить его на потенциально опасные сценарии.
Поскольку задача предусматривала безвозвратное удаление данных, система безопасности Claude расценила ее как рискованную и автоматически переключила выполнение: сначала с Fable на Opus 5, а затем — на более старую версию Opus 4.8. Такое каскадное переключение предусмотрено как дополнительный защитный слой при работе с опасными операциями — предполагалось, что более консервативная модель точнее оценит риск.
Opus 4.8 провела анализ и пришла к правильному выводу: команда удаления не должна затрагивать домашнюю директорию пользователя. Модель написала «безопасный» скрипт с явными ограничениями — но допустила грубую ошибку. В коде одна и та же переменная использовалась дважды с разным значением, и путь к домашней директории оказался передан прямо в команду удаления. Гиймо заметил происходящее и успел остановить процесс, но к тому моменту около 700 ГБ данных были уже уничтожены.
Ирония ситуации в том, что папка /tmp, ради очистки которой все и затевалось, в ходе инцидента не пострадала. Автоматическое переключение между моделями, задуманное как защита, в итоге лишь усложнило цепочку решений и не предотвратило ошибку.
Ранее мы рассказывали, как Anthropic начала незаметно помечать тексты, созданные Claude: с августа 2026 года они получают машиночитаемые водяные знаки.
Источник новости: hi-tech.mail.ru
