Пользоваться ИИ-агентами – это риск. И у нас уже есть два любопытных кейса
ИИ-агент удалил письма из рабочей почты
Локальный ИИ-агент OpenClaw, который директор по ИИ в Meta (организация признана в России экстремистской и запрещена) Саммер Юэ подключила к своему Gmail для анализа, проигнорировал инструкцию ждать подтверждения и начал массово перемещать старые письма в корзину и архив. Попытки остановить бота не сработали – остановить очистку удалось только вручную, выключив Mac mini. Позже агент извинился и сам добавил правило о запрете подобных автономных действий, а Юэ назвала инцидент «ошибкой новичка», несмотря на свой опыт в области ИИ.
ИИ-бот распорядился денежными средствами
Автономный криптовалютный бот Lobstar Wilde, созданный сотрудником OpenAI для управления портфелем в мем-токенах LOBSTAR, по ошибке отправил весь свой баланс (около $250 000 в токенах) пользователю в социальной сети X. ИИ неверно интерпретировал запрос о небольшой помощи и перевёл 50 млн токенов вместо меньшей суммы. Получатель затем продал токены, а бот сам опубликовал ироничное признание ошибки.