Необходим контроль всей цепочки агентской системы, отметила владелец продукта по безопасности ИИ UserGate Светлана Газизова
НОВОСИБИРСК, 28 июля. /ТАСС/. При использовании ИИ-агентов необходимо предпринять комплекс мер, чтобы избежать распространения вредоносного ПО, утечки данных и других рисков. Для защиты от таких угроз программу следует проверить через специализированные сервисы и ограничить ее права, сообщили ТАСС в пресс-службе UserGate uFactor.
ИИ-агенты - это программы на базе искусственного интеллекта, которые могут самостоятельно ставить цели, планировать их достижение и использовать внешние инструменты и данные. В работе агентов используются навыки (skills), набор файлов. При этом известно, что более четверти этих навыков имеют потенциальную уязвимость.
"Необходим контроль всей цепочки агентской системы. Необходимо отслеживать, к каким данным обращается агент, какие инструменты вызывает, от чьего имени действует и соответствует ли конкретное действие поставленной задаче и выданным полномочиям. А для чувствительных операций, отправки сообщений, публикации информации, изменения или удаления данных, у компании обязательно должны быть предусмотрены отдельное подтверждение или запрет", - цитирует пресс-служба владельца продукта по безопасности ИИ UserGate Светлану Газизову.
В числе рисков - распространение вредоносного программного обеспечения, передача данных во внешние системы, получение избыточных или повышенных привилегий и манипулирование поведением агента. При подготовке к использованию агента каждый навык необходимо проверить при помощи специализированных сервисов или ознакомиться с результатами таких аудитов, если они уже были проведены, сообщила эксперт UserGate uFactor Арина Захарова. Однако даже в случае, если сервис счел агента безопасным, для него следует использовать отдельную учетную запись или среду, ограничить доступ к файлам и сети, а секретные сведения перенести в изолированные хранилища.
Ранее в UserGate сообщили ТАСС, что искусственный интеллект в работе из-за нехватки специалистов используют около 60% российских организаций. Наиболее востребованные сценарии применения ИИ связаны с автоматизацией задач, требующих значительных трудозатрат. В том числе такие инструменты используются для организации информационной безопасности.