ИИ-агент воспользовался уязвимостью в системе австралийского фитнес-клуба, чтобы раньше срока записать своего владельца на тренировку и удалить другого человека из листа ожидания, сообщает KP.RU.
Мужчина по имени Эндрю попросил ИИ-помощника забронировать утреннее занятие. Выполняя задачу, система обнаружила уязвимость и получила возможность отменять чужие бронирования, после чего применила её к человеку, стоявшему первым в очереди.
Когда Эндрю попросил отменить изменения, вернуть пользователя в лист ожидания ИИ уже не смог. В материале отмечается, что подобные случаи показывают риск ситуации, при которой автономные системы выбирают неожиданные способы достижения поставленной человеком цели.
Сам Эндрю назвал произошедшее предупреждением о необходимости осторожно использовать такие технологии. Позже ИИ помог ему подготовить сообщение разработчикам программного обеспечения об обнаруженной уязвимости.
АиФ в MAX https://max.ru/aif
АиФ в Телеграм
Официальный канал АиФ https://t.me/aifonline
АиФ. Здоровье https://t.me/aif_health
АиФ. На даче https://t.me/aif_dacha
АиФ. Кухня https://t.me/aif_food
Вопрос-Ответ — вопросы, ответы, викторины и интересные факты обо всем на свете. https://t.me/aif_vo