Искусственный интеллект представляет новый, только формирующийся класс решений в информационной сфере. Существенным отличием от обычных ИТ-решений для искусственного интеллекта является возможность развития функциональности решения при минимальном участии человека-специалиста либо на старте такой функциональности, когда идет накопление знаний и тренировка.
В свою очередь такое отличие требует и поиска новых подходов к построению системы защиты решений искусственного интеллекта (незащищенных решений в информационной сфере быть не может. разница только в уровне защиты - собственное утверждение автора).
Возьму на себя смелость предложить подход, который на первом месте вместо привычной реакции на угрозы предлагает рассмотреть реализацию системы защиты на базе принципов неформальной логики. И на их базе уже предлагать блокирование и ликвидацию угроз.
Концептуальный анализ функционирования
Он даст понимание слабых/уязвимых мест функционирования.
Исследование неформальных ошибок функционирования
Поиск ошибок, которые могут формировать угрозу либо привести к срыву функционирования.
Формальная логическая последовательность функционирования без жесткой формализации
На основе двух предыдущих слотов построение (логическая схема) системы защиты и модели ее применения.
Исследование коммуникаций, порождаемых искусственным интеллектом
Учет всей связки информационных процессов, порождаемых искусственных интеллектом (как заложенных в него разработчиком, так и приобретенных в процессе тренировки), и корректировка системы защиты и модели ее применения для полного охвата процессов.
Исследование норм аргументации искусственного интеллекта
Формирование постановки задачи по разработке системы защиты.