Компания Radware, один их крупнейших разработчиков решений для кибербезопасности, выявила уязвимость в чат-боте ChatGPT. Уязвимость известна как ShadowLeak.
Уязвимость позволяет злоумышленникам извлекать конфиденциальные данные пользователей без их ведома и без использования традиционных методов атаки. В этом случае атака осуществляется через отправку специально созданного письма, которое агент обрабатывает самостоятельно, получая доступ к данным без оставления следов. Это первый известный случай серверной атаки с использованием ИИ-агента, функционирующего автономно в облаке.
Компания OpenAI признала проблему 18 июня 2025 года и устранила её 3 сентября. Атака подчеркнула риски, связанные с автономностью ИИ, интеграцией SaaS и доступом к конфиденциальным данным в обход стандартных мер безопасности.
Причём вместе вышеуказанной проблемой эксперты выявили такой же риск в отношении почты Gmail. Уязвимость позволяет хакерам украсть личные данные и из учётных записей Gmail через фишинговые письма с вредоносными командами.
Злоумышленники действуют через функцию «глубокого исследования» ChatGPT, предназначенную для анализа облачных сервисов. С помощью тако механизма ИИ может выполнить команды удалённого оператора, передавая злоумышленникам имена, адреса и номера телефонов. Пользователи также не заметят утечки данных.