Технический директор компании «АйТи Бастион» Дмитрий Михеев в беседе с «Телеспутником» перечислил риски, связанные со стихийным развитием искусственного интеллекта (ИИ). По мнению эксперта, основной проблемой всех сложных моделей является получение цепочки принятия решений.
«На практике это выливается в вопрос: на основании чего "сложная модель" приняла то или иное решение? Такой результат получить от монолитной модели практически невозможно. Подобная информация при этом необходима ответственным за технологические операции людям для диагностики и верификации работы систем. Так или иначе, уязвимости ИИ-моделей — очень обширная тема — и качество входных данных, и качество обучающих выборок, возможность плавной модификации и дообучения без потери результата, реакция на "размывание" выборок и подобных сценариев достаточно подробно описана уже сейчас. Практика применения всегда определяется на уровне ТЗ, где закладываются "диверсионные", альтернативные сценарии использования», — отметил эксперт.
Он добавил, что нужно выстраивать административные и технические механизмы апелляции принятых системой решений, использовать слой резервной экспертной оценки решений на критические режимы, отрабатывать работу без помощи ИИ-шага в обработке и работу с использованием решений более, чем одной модели.
Эксперт уточнил, что механизмы на базе ИИ-моделей будут развиваться и при этом, очень активно. Подходы к их использованию и вся подоснова для этой технологии тоже будут эволюционировать и уже сейчас развиваются достаточно интенсивно.
«На мой взгляд, где условное "правительство" могло бы оказать серьезную поддержку — это в организации практического сотрудничества множества разработчиков в этой сфере, начиная от образовательных и научных программ и грантов, заканчивая фиксацией стандартов по разработке и применению таких разработок в части государственных информационных систем. В конечном счете, государство часто является заказчиком и потребителем сложных информационных решений и, в этой части, четкая формулировка допустимых практик и ограничений будет востребована и полезна», — отметил Михеев.
Ранее генеральный директор компании «АйТи Бастион» Сергей Бочкарев рассказал в интервью «Телеспутнику» о том, какие решения «АйТи Бастион» планирует вывести на рынок, почему компания растет быстрее рынка, а также о росте кибератак в малом и среднем бизнесе и важности технологических интеграций.