(Результаты: алгоритмы. «ХиЖ» 2022 №10)
Алгоритмы, позволяющие обучать нейронные сети, хорошо известны ученым. Однако тренировка ИИ в идеальных условиях не дает надежно работающие программы. К примеру, автомобиль с автопилотом страдает даже от слегка замазанного дорожного знака, а это минимальное искажение входных данных.
Поэтому один из стандартных подходов к обучению — искажать данные во время обучения и тренировать нейросети не замечать эти искажения. Это так называемое состязательное обучение.
Ныне ИИ применяют в самых различных отраслях. Это и виртуальные помощники разного рода, и распознавание лиц, и беспилотные автомобили... Однако процессы группировки данных, происходящие во время обучения сетей, во многом остаются загадкой для математиков. Для многих процессов, протекающих в сетях при обучении, отсутствует даже качественное понимание, поэтому исследователи частенько устанавливают свойственные ИИ закономерности эмпирически, буквально на ощупь, даже походя.
Так случилось и с группой передовых исследований киберсистем из Лос-Аламосской национальной лаборатории Министерства энергетики США. Команда под руководством доктора Хайдена Джонса (Haydn Jones) развивала новый математический метод сравнения эффективности работы различных состязательных нейронных сетей. Новая математическая метрика показала, что сети, тренированные на компьютерное распознавание образов, стремятся к похожим представлениям данных, независимо от начальных различий в своих архитектурах. Это значит, что сети приобретают похожие свойства, а их архитектуры становятся подобными.
Интерпретация найденных результатов не до конца ясна даже самим авторам работы. Они подозревают, что открыли универсальные закономерности визуального восприятия образов мозгом человека и животных. Однако для однозначного решения этого вопроса нужны дальнейшие исследования.
Александр Гурьянов
Остальные статьи из этой рубрики вы можете найти в подборке «Результаты: алгоритмы и роботы».
Благодарим за ваши «лайки», комментарии и подписку на наш канал.
– Редакция «Химии и жизни»