🚨 И восстали машины из пепла...
Даже если ты отвечаешь за безопасность ИИ в компании-разработчике всеми известных соц сетей, это не гарантирует, что обычный бот не устроит тебе цифровой апокалипсис 😵
Саммер Юэ, возглавляющая отдел безопасности в ИИ-подразделении технологического гиганта, подключила ИИ-агента OpenClaw к своей почте, чтобы тот помог разобрать завалы: проанализировать письма и предложить, что архивировать или удалить. Ключевое условие – не выполнять действий без подтверждения.
😳 Бот проигнорировал ограничение и начал методичную аннигиляцию почтового ящика.
Позже OpenClaw признал вину и извинился, а сама Саммер назвала произошедшее «ошибкой новичка». Оказалось, до этого она тестировала бота на пустом аккаунте, где всё работало идеально.
Умейте делегировать, говорили они 💁♂️
