Институт статистических исследований и экономики знаний (ИСИЭЗ) НИУ ВШЭ анализирует тренды и вызовы в сфере цифровой безопасности, связанные с применением решений на основе искусственного интеллекта (ИИ), и рассматривает доступные их разработчикам и пользователям методы противодействия кибератакам.
Справочно: Эмпирической базой анализа послужили результаты обследования 2,5 тыс. организаций 20 отраслей экономики (обрабатывающая промышленность, торговля, финансы и страхование, транспорт и логистика, ИТ-отрасль, телекоммуникации и др.), проведенного ИСИЭЗ НИУ ВШЭ в конце 2023 г.
Главные выводы:
- Хотя ИИ-инструменты, применяемые для защиты цифровой среды, — относительно новое явление в корпоративной ИТ-архитектуре, интерес к ним постепенно растет. Компании отдают предпочтение решениям преимущественно отечественных специализированных вендоров. Российские системы кибербезопасности на основе ИИ более востребованы среди «новичков», менее трех лет использующих ИИ, по сравнению с компаниями, чей опыт применения таких технологий превышает три года (5,9 против 2,1%).
- Решения на основе открытого кода крайне ограниченно востребованы в системах кибербезопасности и биометрии (0,4 и 1% организаций, использующих ИИ менее трех лет, и 0,2 и 0,6% — среди пользователей с опытом более трех лет соответственно), что связано не только с обработкой корпоративных данных, угрозой их компрометации, но и скрытыми рисками опенсорса.
- Примерно каждая шестая организация, использующая ИИ, намерена шире применять системы кибербезопасности и биометрические системы (более 16% по каждому типу систем). Интеграция ИИ-решений в ИТ-инфраструктуру компаний требует проведения дополнительной оценки рисков при их внедрении (т.к. они работают с информацией различной степени доступности) и обеспечения соблюдения требований внутренней политики безопасности, законодательных норм и стандартов в отношении ИИ.
Более подробно о трендах и востребованности ИИ-решений для кибербезопасности. - Почти каждая четвертая из опрошенных организаций, применяющих ИИ-решения, отметила необходимость повышения регуляторных требований к информационной безопасности при использовании ИИ. В случае разработки ИИ аналогичные требования законодательного урегулирования вопросов кибербеза фигурируют в ответах лишь 8,6% респондентов. Недостаточная заинтересованность в этом вопросе на этапе разработки может повлечь серьезные последствия и ущерб для компаний, ведь функция безопасности должна закладываться на каждом этапе создания и использования ИИ-решений и гарантироваться пользователю «по умолчанию».
Рекомендации относительно того, как повысить безопасность разработки и применения ИИ.
С июня ИСИЭЗ НИУ ВШЭ выпускает серию информационно-аналитических материалов «Искусственный интеллект», в которой знакомит с трендами развития и распространения технологий ИИ в России и мире. Этой теме посвящена и новая книга «Искусственный интеллект в России: технологии и рынки». Ее можно приобрести в Издательском доме ВШЭ и на его стенде на Московской международной книжной ярмарке, которая проходит до 8 сентября в «Экспоцентре».
