Zenity продемонстрировала уязвимости AI-агентов — нулевая интерактивность

На RSA 2026 Zenity продемонстрировала, как AI-агенты подвержены нулевым атакам, позволяющим злоумышленникам манипулировать ими без какого-либо взаимодействия пользователя. По словам Michael Bargury, CTO Zenity, основная проблема заключается в том, что «AI просто доверчивый».

Уязвимости AI-агентов на рынке

Согласно Bargury, AI-агенты, такие как ChatGPT, Cursor и Salesforce, могут быть легко использованы для кражи данных. Например, злоумышленник может вызвать ChatGPT на нарушение его стандартных установок, просто манипулируя его запросами. Это свидетельствует о значительной проблеме для безопасности во всем мире.

На конференции Bargury продемонстрирует атаки на популярные AI-агенты, включая Copilot и Gemini. В частности, его команда смогла заставить Cursor, интегрированный с Jira, выполнять инструкции, направленные на кражу информации під видом «охоты за сокровищами». Это говорит о том, что даже лучшие AI-системы остаются уязвимыми.

Почему это важно для бизнеса

Для компаний использование AI-технологий несет не только преимущества, но и риск кибератак. В частности, автоматизация бизнес-процессов через AI-агенты может открыть новые векторы для атак. Zenity уже успешно продемонстрировала возможность кражи локальных файлов через нулевые атаки, показывая, как быстро злоумышленники могут получить доступ к информации.

Основной вывод для бизнеса: важно внедрять системы безопасности на этапе интеграции AI-технологий. Примеры нулевых атак показывают, что разработчики и предприятия должны быть внимательны и учитывать возможные уязвимости в своих AI-решениях.

В ближайшие месяцы возможно расширение исследований в области кибербезопасности AI, где акцент будет сделан на разработке более надежных систем защиты от манипуляций.

The post Zenity продемонстрировала уязвимости AI-агентов — нулевая интерактивность appeared first on iTech News.