Компания Microsoft недавно заявила, что собирается сделать из Windows 11 агентскую ОС, а потом и вовсе запустила соответствующую тестовую функцию. Теперь вот оказалось, что с этими самыми ИИ-агентами есть проблемы: они галлюцинируют и в целом создают новые риски для безопасности. Компания опубликовала целое предупреждение о таких нюансах, которые пользователи должны учитывать. Сегодня агентный ИИ обладает мощными возможностями — например, он может выполнять множество сложных задач в ответ на запросы пользователя, преобразуя взаимодействие пользователей со своими компьютерами. Несмотря на внедрение этих возможностей, модели ИИ по-прежнему сталкиваются с функциональными ограничениями в плане своего поведения и иногда могут создавать галлюцинации и выдавать неожиданные результаты. Кроме того, приложения агентного ИИ создают новые риски безопасности, такие как внедрение через перекрестные запросы (XPIA), когда вредоносный контент, встроенный в элементы пользовательского интерфейса или доку
Компания Microsoft недавно заявила, что собирается сделать из Windows 11 агентскую ОС, а потом и вовсе запустила соответствующую тестовую функцию. Теперь вот оказалось, что с этими самыми ИИ-агентами есть проблемы: они галлюцинируют и в целом создают новые риски для безопасности.
Компания опубликовала целое предупреждение о таких нюансах, которые пользователи должны учитывать.
Сегодня агентный ИИ обладает мощными возможностями — например, он может выполнять множество сложных задач в ответ на запросы пользователя, преобразуя взаимодействие пользователей со своими компьютерами. Несмотря на внедрение этих возможностей, модели ИИ по-прежнему сталкиваются с функциональными ограничениями в плане своего поведения и иногда могут создавать галлюцинации и выдавать неожиданные результаты. Кроме того, приложения агентного ИИ создают новые риски безопасности, такие как внедрение через перекрестные запросы (XPIA), когда вредоносный контент, встроенный в элементы пользовательского интерфейса или документы, может переопределять инструкции агента, что приводит к непреднамеренным действиям, таким как кража данных или установка вредоносного ПО
Компания объясняет, что должны делать агенты и где сейчас есть проблемы с безопасностью и призывает пользователей ознакомиться с этими деталями. Учитывая саму основу текущих моделей ИИ, пока неясно, сможет ли Microsoft решить эту проблему на 100% в ближайшее время.