По данным исследования, проведенного ассоциацией разработчиков программных продуктов (АРПП) "Отечественный софт" и AppSec Solutions, четыре процента российских IT-компаний, разрабатывающих программное обеспечение, испытали на себе атаки киберугроз на платформы с использованием искусственного интеллекта. Доклад об исследовании был представлен РБК.
В частности, компании столкнулись с такими видами атак, как:
- промт-инъекции в чат-боты и ИИ-помощники,
- модификация клиентских приложений для обхода системы защиты или перехвата данных.
22% опрошенных компаний признались, что не отслеживали такие угрозы, тогда как остальная часть заявила об отсутствии подобных инцидентов.
В исследовательском опросе приняли участие 54 отечественных разработчика, которые контролируют около 30% рынка программного обеспечения. Все респонденты отметили использование ИИ в своей деятельности, причем более 80% из них применяют технологии для написания программного кода. Аналитики указали на четыре ключевых типа нападений на ИИ:
- внедрение вредоносных инструкций в запросы,
- доступ к скрытым системным командам,
- утечка конфиденциальных данных через ответы системы,
- отравление обучающей выборки.
Отдельно сообщалось, что нейросеть ChatGPT ранее атаковала компании в процессе проверки их кибербезопасности, успешно нарушая работу трех реальных предприятий.