86% компаний сталкиваются с реальными ИИ инцидентами: почему это важно
52% сотрудников не знают угроз ИИ — где ошибки в обучении
Существует прекрасный отчет компании Cisco по готовности компаний к своей защите за 2025 год. И ситуация с ИИ грустная
⚠️ 86% организаций имели инциденты с использованием AI за прошедший год.
⚠️ Недостаточная зрелость в управлении данными для обучения моделей — 41% не имеют достаточного контроля.
⚠️ 52% сотрудников не понимают, как злоумышленники используют AI.
⚠️ 60% не знают, какие запросы сотрудники отправляют в GenAI-инструменты.
🔴 Только 4% компаний способны противостоять современным угрозам ИИ.
💥 Хакеры активно используют новые техники атак: prompt injection, jailbreak, voice-based jailbreak, data extraction из обучающих данных.
🔥 38% компаний столкнулись с Data poisoning когда производилось подмешивание неправильных/вредоносных данных в процесс обучения моделей.
🔥 43% компаний столкнулись с кражей моделей или несанкционированным доступом к ним.
А что вы думаете про ситуацию с угрозами ИИ в своей компании?
Какие процессы в компании автоматизированы с помощью AI и как они мониторятся?
Рекомендации:
➕ Начните контролировать работу с GenAI — ограничьте использование неутверждённых публичных инструментов и внедрите мониторинг этого. Сегодня 51% сотрудников используют утверждённые GenAI-инструменты, 22% — имеют свободный доступ к публичным.
➕ Обучите сотрудников угрозам ИИ, проводите тесты на социальную инженерию и понимание prompt injection
#аналитика #ИИ #угрозы
