Уровень проникновения ИИ в ИБ вырос, но все равно остается небольшим

До­ля сис­тем ИБ и в ми­ре, и в Рос­сии, где при­меняют­ся прод­ви­нутая ана­лити­ка и ма­шин­ное обу­чение, дос­тиг­ла 20% по ито­гам пер­во­го по­луго­дия 2023 г., при­чем сред­не­годо­вые тем­пы рос­та имеют яв­ную тен­ден­цию к ус­ко­рению. Дан­но­му про­цес­су спо­собс­твуют рост наг­руз­ки на ИБ-пер­со­нал и сни­жение бюд­же­тов ИБ-под­раз­де­лений.

Яков Шпунт

© ComNews

22.08.2023

Такое мнение разделило большинство участников экспертной дискуссии "Инь и ян: ИБ и ИИ", которая прошла в рамках конференции Innopolis AI Conference for business (AI IN 2023). Управляющий директор "Лаборатории Касперского" в России Анна Кулашова при этом назвала сферу ИБ довольно консервативной в плане использования искусственного интеллекта (ИИ), и за счет этого уровень проникновения ИИ в ИБ остается ниже среднего по экономике как в мире, так и в России. Она обратила внимание на такие риски любых систем, использующих искусственный интеллект (ИИ), как слабая устойчивость к манипуляциям с данными, причем эта уязвимость касается возможных действий и внутренних, и внешних нарушителей.

Анна Кулашова напомнила, что широкое использование аналитических технологий создает дополнительные риски для конфиденциальности данных. Не менее серьезной сложностью, по ее мнению, является высокая требовательность к вычислительным ресурсам систем обучения нейросетей, особенно на фоне дефицита комплектующих, в частности графических ускорителей.

Директор по стратегическому развитию InnoStage Андрей Тимошенко привел пример с антивирусным ПО CYLANCE, которое из-за неправильного обучения начало пропускать вредоносный код. При этом, по его оценке, при решении как минимум 70% задач, стоящих перед ИБ, использование ИИ объективно не нужно.

Эксперт OSINT ООО "Интеллектуальная безопасность" (Security Vision) Евгений Кунин назвал серьезным сдерживающим фактором сложность систем, использующих продвинутую аналитику. Он привел пример систем поведенческого анализа пользователей и сущностей (UBA, UEBA), внедрение которых практически всегда представляет собой интеграционный проект. И в целом при внедрении таких систем, как предупредил Евгений Кунин, очень много организационных и технических проблем. Также, по его оценке, очень много нерешенных сложностей с регуляторами, особенно при использовании систем генеративного ИИ, которые требуют подключения к публичному интернету, что является грубым нарушением законодательства по защите критической информационной инфраструктуры (КИИ). Евгений Кунин привел пример недавнего обвинительного приговора, который вынесен ИТ-специалисту за внедрение системы с открытым кодом на объекте КИИ.