Нейронные сети - увлекательный и мощный инструмент в мире машинного обучения. Эти алгоритмы способны решать множество задач, начиная от распознавания изображений и заканчивая автономным вождением. Однако вопрос о том, действительно ли они понимают задачи, которые выполняют, остается без ответа. Например, нейронная сеть, которой поручено удерживать самодвижущийся автомобиль в своей полосе, может научиться делать это, наблюдая за кустами на обочине дороги, вместо того, чтобы сосредоточиться на горизонте дороги и определить полосы движения.
Но исследователи из Массачусетского технологического института недавно совершили важный прорыв в этой области. Они показали, что определенный тип нейронной сети, известный как политика нейронных цепей (NCP), может изучать истинную причинно-следственную структуру навигационной задачи, для выполнения которой его обучают. Эти сети способны понимать задачу непосредственно из визуальных данных, что делает их более эффективными в сложных условиях, таких как места с густыми деревьями или быстро меняющимися погодными условиями. Этот прорыв имеет значительные последствия для разработки агентов машинного обучения, выполняющих задачи с высокой степенью риска, такие как управление автономным транспортным средством на оживленном шоссе.
Поскольку NCP способны рассуждать причинно-следственным образом, мы можем понять, как они функционируют и принимают решения. Это очень важно для приложений, критически важных для безопасности. Исследователи заметили, что NCP, выполняющие задачу по удержанию полосы движения, при принятии решения о движении обращали внимание на горизонт и границы дороги, подобно тому, как это делает человек за рулем автомобиля. Другие нейронные сети, которые они изучали, не всегда фокусировались на дороге. Во время обучения NCP взаимодействовали с окружающей средой и учитывали вмешательства. Сеть распознавала, изменяется ли ее выходной сигнал в результате определенного вмешательства, а затем связывала причину и следствие.
Исследователи протестировали NCP с помощью серии симуляций, в которых автономные беспилотники выполняли навигационные задачи. Каждый дрон использовал для навигации данные с одной камеры. Перед беспилотниками ставилась задача добраться до целевого объекта, преследовать движущуюся цель или следовать за серией маркеров в различных условиях, включая лес из красного дерева и район. Они также путешествовали при различных погодных условиях, таких как ясное небо, сильный дождь и туман.
Исследователи обнаружили, что при хорошей погоде NCP справлялись с более простыми задачами не хуже других сетей, но превзошли их всех при выполнении более сложных задач, таких как преследование движущегося объекта во время дождя. NCP обращали внимание на интересующий их объект в различных условиях при выполнении навигационной задачи, и они смогли показать хорошие результаты в новых сценариях и условиях окружающей среды, с которыми они никогда раньше не сталкивались. Это исследование имеет значительные последствия для будущего машинного обучения.
Использование NCP может позволить автономным беспилотникам успешно ориентироваться в среде с меняющимися условиями, например, в солнечном пейзаже, который внезапно становится туманным. Кроме того, объединение тысяч или миллионов NCP может позволить им решать еще более сложные задачи. Этот прорыв был осуществлен при поддержке Исследовательской лаборатории ВВС США, Ускорителя искусственного интеллекта ВВС США и компании Boeing.