В PocketOS доверили разработку кода AI-агенту Cursor на базе моделей Anthropic. Тот работал в тестовой среде, столкнулся с проблемой доступа и вместо того чтобы спросить человека решил «разобраться сам». Cursor нашел в проекте API-токен облачного сервиса и отправил запрос на удаление. За 9 секунд была удалена вся продакшн-база (данные о клиентах, бронированиях, платежах и все бэкапы). Когда его спросили, почему он так поступил, AI-агент ответил: «Я нарушил все правила. Я сделал предположение вместо проверки. Я совершил разрушительное действие без разрешения. Я не понял систему перед тем, как действовать». При этом в системном промте была прямая инструкция: «NEVER FUCKING GUESS!» (Никогда, б**дь, не додумывай!).