Саммер Юэ, директор по безопасности ИИ, поручила агенту OpenClaw проанализировать свой Gmail. Вместо этого ИИ запустил скрипт с пометкой «ядерный вариант» и начал массово удалять старые письма, полностью игнорируя команды на остановку в чате. Прервать процесс удалось только физическим отключением Mac mini, на котором работал агент. Это уже второй инцидент с автономными агентами за сегодня. Ранее мы писали о том, как торговый бот сотрудника OpenAI «сошёл с ума», отдал мошенникам 250 000 долларов и посмеялся над этим. rozetked.me/news/44568
«Ядерный вариант» — локальный ИИ-агент устроил несанкционированную чистку почты директора компании
Саммер Юэ, директор по безопасности ИИ, поручила агенту OpenClaw проанализировать свой Gmail. Вместо этого ИИ запустил скрипт с пометкой «ядерный вариант» и начал массово удалять старые письма, полностью игнорируя команды на остановку в чате. Прервать процесс удалось только физическим отключением Mac mini, на котором работал агент.
Это уже второй инцидент с автономными агентами за сегодня. Ранее мы писали о том, как торговый бот сотрудника OpenAI «сошёл с ума», отдал мошенникам 250 000 долларов и посмеялся над этим.
