Неожиданный подход: Принципы неформальной логики и защита искусственного интеллекта. Этап постановки задачи

Искусственный интеллект представляет новый, только формирующийся класс решений в информационной сфере. Существенным отличием от обычных ИТ-решений для искусственного интеллекта является возможность развития функциональности решения при минимальном участии человека-специалиста либо на старте такой функциональности, когда идет накопление знаний и тренировка.

В свою очередь такое отличие требует и поиска новых подходов к построению системы защиты решений искусственного интеллекта (незащищенных решений в информационной сфере быть не может. разница только в уровне защиты - собственное утверждение автора).

Возьму на себя смелость предложить подход, который на первом месте вместо привычной реакции на угрозы предлагает рассмотреть реализацию системы защиты на базе принципов неформальной логики. И на их базе уже предлагать блокирование и ликвидацию угроз.

Концептуальный анализ функционирования

Он даст понимание слабых/уязвимых мест функционирования.

Исследование неформальных ошибок функционирования

Поиск ошибок, которые могут формировать угрозу либо привести к срыву функционирования.

Формальная логическая последовательность функционирования без жесткой формализации

На основе двух предыдущих слотов построение (логическая схема) системы защиты и модели ее применения.

Исследование коммуникаций, порождаемых искусственным интеллектом

Учет всей связки информационных процессов, порождаемых искусственных интеллектом (как заложенных в него разработчиком, так и приобретенных в процессе тренировки), и корректировка системы защиты и модели ее применения для полного охвата процессов.

Исследование норм аргументации искусственного интеллекта

Формирование постановки задачи по разработке системы защиты.