Возможные угрозы информационным процессам со стороны искусственного интеллекта

Угрозы информационным процессам подразделяются на внутренние (находящиеся внутри информационного объекта/системы) и внешние (не относящиеся непосредственно к информационному объекту/системе). данная классификация вполне применима и при рассмотрении угроз со стороны искусственного интеллекта. Но наполнение таких угроз отличается от обычного прочтения. Рассмотрим это подробнее.

Внутренние угрозы со стороны искусственного интеллекта фокусируются на сбоях/нарушениях/отказах в функционировании. То есть таким ситуациям, когда продукт ИИ, как минимум, начинает некорректно работать. Это может привести к срыву или блокировке информационного процесса. Простейший случай - "зависание" ИИ. Отдельная ситуация может быть связана с ИИ с глубоким обучением или нейросенсорными сетями, когда ИИ, получив большой объем знаний/навыков, может самостоятельно принять решение об изменении параметров функционирования. Отголоски таких возможностей уже присутствуют с средствах массовой информации. В классических информационных системах такое "черное проявление разума" в принципе невозможно. Для классики максимум внутренней угрозы это выход из строя оборудования или ошибочные/злонамеренные действия пользователя/администратора.

Внешние угрозы со стороны искусственного интеллекта можно разделить на две группы:

• воздействие на информационный объект/пользователя или администратора информационного объекта;
• воздействие на внутренние системы ИИ для дальнейшего воздействия на информационный объект.

И в том, и в другом случае ИИ, как внешняя угроза, представляет собой либо атакующий деструктив, либо элемент такого деструктива, либо систему управления таким деструктивом. К "человекообразному" нарушителю информационной безопасности, действия которого в общем случае стоят за организацией и проведением компьютерных атак, добавляется "механический" нарушитель, который лишен эмоциональной составляющей, и которому на определенном этапе не потребуется человек для создания и совершения негативного/криминального действия.

В следующих материалах данный аспект рассмотрим подробнее.