Созданный санкт-петербургскими исследователями метод обучения нейросетей позволяет моделям безопасно учиться на разрозненных данных, добиваясь почти 100-процентной точности в решении задач, связанных с кибербезопасностью.
Обучение «в составе федерации»
Исследователи Санкт-Петербургского государственного электротехнического университета «ЛЭТИ» доработали один из методов обучения нейросетей, применяемый в системах «умного города». Они модифицировали алгоритм федеративного обучения — способа, при котором модель учится на данных, сохранённых непосредственно на вычислительных устройствах, а не на сервере или в «облаке». Этот способ хранения данных способствует сохранению конфиденциальности информации и снижению рисков её утечек.
Без «уравниловки»
В обычном федеративном обучении моделей всё устроено просто. Каждый смартфон, камера или датчик обучает свою маленькую копию нейросети на своих собственных данных и отправляет результат на сервер. Сервер складывает эти результаты и усредняет их. Если одни устройства видят одно, а другие — совсем другое, усреднение, естественно, даёт неточную картину. Модель начинает путаться и генерировать тот самый знаменитый «бред».
Учёные из ЛЭТИ изменили это. Их алгоритм не просто складывает все обновления в одну кучу. Он смотрит, какие данные и откуда пришли, и «настраивает» величину «вклада» каждого устройства в общую картину. Там, где данные резко отличаются, система снижает их влияние, а там, где они стабильны, — соответственно, повышает. Естественно, такой тип усреднения даёт более «правдивый» результат.
Последовательно и без скачков
В итоге обучение идёт стабильнее. Модель не «скачет» от одного набора данных к другому и не пытается понять, какой источник «вернее». Это особенно важно для систем «умного города», где данные поступают от камер, датчиков и сетевых устройств, работающих в совершенно разных условиях.
Кроме того, учёные разработали метод генерации наборов тестовых данных, которые позволяют проверять работу алгоритма в ситуациях, максимально приближённых к реальным.
По словам руководителя проекта, проректора по цифровой трансформации СПбГЭТУ «ЛЭТИ» Ивана Холода, новая версия алгоритма показала впечатляющие результаты. В задаче обнаружения сетевых атак и киберугроз точность модели достигла 99,98%, а при анализе поведения транспортных потоков — 85%, что существенно выше базовых методов.
Создание и обучение алгоритмов крайне важно для систем управления городской инфраструктурой. В «умных городах» нейросети анализируют огромные потоки данных для управления транспортом, энергосетями, службами безопасности и мониторинга среды. Сохранение же приватности и высокая точность обучения и работы моделей позволяют создавать более надёжные сервисы без риска раскрытия персональной или секретной информации.
Новый алгоритм может найти применение не только в «умных городах», но и в других областях, где требуется безопасное обучение на распределённых данных, например в медицине или промышленной аналитике.