😱 За девять секунд ИИ уничтожил все данные компании и резервные копии
❗️ Основатель компании PocketOS Джер Крейн рассказал, как Cursor с моделью Claude Opus 4.6 за девять секунд случайно уничтожили всю продакшен-базу компании вместе со всеми бэкапами
PocketOS — нишевая SaaS-платформа для бизнеса по прокату автомобилей
Сервис помогает автоматизировать управление автопарком, бронирования, платежи и работу с клиентскими данными
Все началось с обычной задачи, которую агент выполнял в тестовой среде
Когда агент столкнулся с несоответствием учетных данных и уперся в проблему, он решил «починить» ее самостоятельно, но вместо дебага он обратился к API Railway и удалил том (volume)
— Проблема заключалась в том, что этот том не был изолирован, и вместе с ним оказалась уничтожена и продакшен-база
«Агент столкнулся с несоответствием учетных данных и решил — по собственной инициативе — “исправить” эту проблему, удалив том Railway.
Для выполнения удаления агент искал токен API. Он нашел его в файле, совершенно не связанном с выполняемой задачей. Этот токен был создан с одной целью: добавлять и удалять пользовательские домены через CLI Railway для наших сервисов.
Мы понятия не имели (так как в процессе создания токена в Railway нас об этом не предупредили), что этот же токен обладает неограниченными полномочиями для всего API Railway GraphQL, включая деструктивные операции, такие как volumeDelete.
Если бы мы знали, что токен CLI, созданный для обычных операций с доменами, может также удалять производственные тома, мы бы никогда его не хранили» — рассказывает Крейн
🧑💻 Этичный хакер
