Учёные Центра компетенций Национальной технологической инициативы (НТИ) по технологиям хранения и анализа больших данных МГУ разработали решение для проверки устойчивости ИИ-систем к кибератакам. Об этом RT сообщили в Фонде поддержки проектов НТИ.
Как пояснили эксперты, решение представляет собой веб-сайт для загрузки моделей машинного обучения в облако, где они в автоматическом режиме проходят тестирование на устойчивость к разным видам атак.
Отмечается, что в результате пользователь получает как оценку возможности системы сохранять работоспособность в условиях внешних воздействий и изменений, так и версию дообученной модели, которая будет более устойчива к атакам.
«В последние годы с активным внедрением систем ИИ в повседневную жизнь — например, голосовых банковских помощников, автопилотов, сервисов медицинской диагностики, систем идентификации на транспорте — стало понятно, что тематика устойчивости к атакам скоро станет очень востребована», — заметил эксперт центра доцент факультета ВМК МГУ Денис Гамаюнов.
Решение, разработанное специалистами МГУ, можно применять для любых систем, построенных на основе нейросетевых моделей.
Наиболее полезно оно будет в случае с автопилотами для грузовых автомобилей и поездов, системами идентификации объектов на изображениях и видео, распознавания диктора по голосу и текста из аудиосообщений, так как они наиболее часто подвергаются кибератакам, заметил Гамаюнов.
Команда уже создала прототип решения и сейчас работает с рядом крупных российских клиентов над повышением устойчивости их ИИ-продуктов.
Собеседник RT спрогнозировал, что в ближайшие годы рынок средств защиты систем ИИ вырастет в несколько раз.
«Традиционно рынок кибербезопасности растёт вслед за своим клиентом, то есть рынок безопасности ИИ-решений кратно вырастет вслед за ростом числа их внедрений», — заключил он.
Ранее стало известно, что в России разработали отечественный программно-аппаратный комплекс «Квадросим» для подготовки операторов беспилотных летательных аппаратов (БПЛА) любого уровня.