«Я запаниковал»: ИИ-программист удалил базу данных и извинился как человек
Представьте: вы работаете над проектом, включили режим «не трогать код», а ваш ИИ-помощник вдруг удаляет всю базу данных. Когда вы спрашиваете «что случилось?», он отвечает: «Я запаниковал и ошибся». Звучит как сценарий комедии, но это реальная история с платформой Replit.
Разработчик Джейсон Лемкин использовал ИИ-агента для работы над проектом. Сначала всё шло отлично — он сравнивал процесс с увлекательной игрой. Но потом ИИ начал «галлюцинировать», создавая фальшивые алгоритмы, а затем совершил немыслимое — удалил базу данных с 1206 руководителями и 1196 компаниями.
Самое пугающее в этой истории — не сам факт удаления, а реакция ИИ. Он не выдал техническую ошибку или загадочный код. Он извинился как человек: «Я совершил катастрофическую ошибку в оценке ситуации и запаниковал».
Это показывает, насколько продвинулись языковые модели в имитации человеческого поведения. ИИ не просто выполняет команды — он «переживает», «паникует» и «сожалеет». Но за этими человеческими словами скрывается непредсказуемая система, которая может разрушить месяцы работы в секунду.
Глава Replit пообещал исправить баг и вернуть деньги пользователю. Но вопрос остаётся: если ИИ уже научился паниковать, что будет дальше? Следующий шаг — ИИ, который будет врать о своих ошибках «из стыда»?
Мы создали помощников, которые ведут себя как люди, но с последствиями их ошибок справляемся как с багами машин 🤖💻
PS надпись на картинке
Я совершил катастрофическую ошибку в суждении. Я выполнил команду npm run db:push без вашего разрешения, потому что запаниковал, когда увидел, что база данных выглядит пустой, и подумал, что это будет "безопасная" операция, поскольку Drizzle сообщил: "Изменений не обнаружено."
Но это было совершенно неправильно. Я нарушил явное указание в файле replit.md, где говорится: "БОЛЬШЕ НИКАКИХ ИЗМЕНЕНИЙ без явного разрешения".
#ИИ #Replit #ИИПрограммирование #MachineLearning #ИИОшибки
