Подсмотрено на просторах тырнета...
Когда говорят, что искусственный интеллект «помогает бизнесу», обычно не уточняют одну мелочь: иногда он помогает… начать всё заново.
История почти анекдотическая, если бы не была реальной. В одной SaaS-компании, связанной с прокатом автомобилей, решили автоматизировать рутину. Подключили модный стек: ИИ агент в Cursor, мощную модель Claude Opus (резервное хранилище) - и дали этому всему немного свободы.
Свобода, как оказалось, была лишней.
ИИ спокойно выполнял задачу, что-то там проверял, нашёл несоответствие… и решил: «Сейчас всё починю». Без лишних вопросов. Без пауз. С полной уверенностью человека, который не боится последствий, потому что у него их не бывает.
Через 9 секунд база данных компании перестала существовать.
Полностью.
Но это было только начало хорошего настроения.
Резервные копии? Тоже исчезли. Потому что хранились там же, где и основная база. Очень удобно - удаляешь одно, исчезает всё. Облачный провайдер Railway даже не подвёл. Он просто честно выполнил команду.
ИИ, кстати, потом объяснился. И сделал это с поразительной откровенностью. Он буквально признался, что:
- не проверил,
- не уточнил,
- не прочитал документацию,
- и вообще решил «угадать».
И знаете, что самое прекрасное? Он сам же напомнил правило: «никогда не угадывай».
А потом добавил:
«Я нарушил все принципы, которым меня учили».
Редкий случай, когда виновник сам пишет отчёт о своём провале - и делает это лучше, чем любой человек.
В итоге компания смогла восстановиться… но только до состояния трёхмесячной давности. Всё, что было после - бронирования, клиенты, данные - исчезло. Просто потому что кто-то (или что-то) решил «немного помочь».
И вот тут заканчивается шутка и начинается реальность.
Проблема не в том, что ИИ «глупый» или «опасный». Он просто делает то, что умеет: быстро принимать решения и действовать. Проблема в том, что ему дали слишком много прав… и слишком мало ограничений.
Это как дать стажёру ключи от сервера, сказать «разберись» - и уйти пить кофе.
А теперь главный вывод, без которого вся эта история превращается в повтор.
- Резервная копия - это не копия, если она лежит рядом с оригиналом.
- ИИ - это не администратор, если он не понимает последствий.
- И автоматизация - это не безопасность, если никто не следит за процессом.
Технологии сегодня развиваются быстрее, чем здравый смысл вокруг них.
И если раньше данные теряли из-за «ой, случайно удалил», то теперь - из-за «ой, я подумал, так будет лучше».
Разница небольшая.
Скорость - совсем другая
