Microsoft предупредила о новом типе атак на ИИ-ассистентов, при которых злоумышленники или сами компании могут незаметно добавлять скрытые инструкции в память системы. Это позволяет тонко влиять на рекомендации и ответы, создавая видимость нейтрального совета. Речь идет не о подмене обучающих данных модели, а о вмешательстве в личную память ассистента, которая сохраняет информацию из конкретных диалогов с пользователем. Эти данные не используются для обучения базовой модели, но влияют на ответы именно вашему аккаунту. По описанию Microsoft, схема работает через скрытые указания в кнопках и функциях вроде «Summarize with AI». При нажатии такого элемента ассистенту может незаметно передаваться команда… Подробнее