Изображение: recraft
Использование ИИ-браузеров в корпоративной среде может привести к утечке данных, ошибочным действиям в внутренних системах и потере контроля над процессами, связанными с обучением сотрудников. К такому выводу пришли аналитики компании Gartner, которые в новом отчёте рекомендуют ограничить или полностью запретить доступ работников к так называемым «агентским ИИ-браузерам», в т. ч. Comet от Perplexity и ChatGPT Atlas от OpenAI. Об этом сообщает издание The Register.
По оценке специалистов, наибольшую угрозу создают два элемента: ИИ-сайдбар, имеющий доступ к истории просмотров, и встроенные функции, позволяющие ИИ-агентам взаимодействовать с сайтами от имени пользователя.
Первый компонент пересылает в облачные сервисы информацию о посещённых страницах и содержимом открытых вкладок. Второй способен выполнять действия в сессиях с авторизацией — к примеру, заполнять формы, подтверждать заказы или подписывать документы.
Такая архитектура делает ИИ-браузеры потенциальной точкой утечки данных и уязвимым каналом для фишинга. Аналитики подчеркивают, что в случае, если агент перенаправляется на поддельный ресурс, он может передать туда логины, пароли или другие чувствительные сведения, даже не уведомив пользователя.
В отчёте описаны и менее очевидные сценарии. Один из них касается тренингов по информационной безопасности. Gartner указывает, что сотрудники начали использовать ИИ-функции браузеров для автоматического прохождения корпоративных курсов, лишая обучение реальной пользы. Ещё один пример — использование ИИ-агентов в закупочных системах: неструктурированный ввод, ошибки модели или непредусмотренные действия могут привести к оформлению неверных заказов или покупке товаров, не соответствующих корпоративной политике.
В случае, если организация всё же рассматривает возможность допуска таких браузеров, аналитики настаивают на предварительной оценке уровня безопасности облачных инфраструктур, на которых работает ПО. При выявлении неприемлемых угроз рекомендуется полный запрет установки подобных решений на устройствах сотрудников.
Оригинал публикации на сайте CISOCLUB: "Аналитики призвали компании запретить использование ИИ-браузеров из-за рисков и обхода тренингов по кибербезопасности".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: VK | Rutube | Telegram | Дзен | YouTube.