Microsoft добавила в тестовую Windows 11 экспериментальных ИИ-агентов, но сама же предупреждает, что функция потенциально опасна. Компания выпустила справочную статью, где говорится, что включать её стоит только тем, кто понимает последствия. По умолчанию она отключена.
В инсайдерской сборке появился переключатель «Экспериментальные агентские функции». После активации система сообщает, что нововведение может повлиять на безопасность. Главная проблема — уязвимость к инъекциям подсказок. Достаточно встроить нужный текст или код в файл, элемент интерфейса или документ, и агент может изменить своё поведение: выполнить нежелательную команду, скачать вредоносный софт или передать данные злоумышленнику.
Microsoft уверяет, что агенты работают в отдельном «рабочем пространстве» — чем-то вроде гибридной песочницы. У каждого своя учётная запись, а доступ к файлам ограничен: по умолчанию можно читать и менять только содержимое в «Загрузках», «Рабочем столе», «Видео», «Изображениях» и «Музыке». Все действия агента логируются, так что позже можно посмотреть, что он сделал.
