шея: Шея находится между позвоночником и головой, она используется для извлечения некоторых более сложных функций.(например, пирамидальная сеть feautre(FPN), BiFPN)
Существует общая структура для обнаружения объектов:
Input → backbone → neck → head → Output
Первоначально в задаче обнаружения объектов мы использовали некоторые сети, созданные вручную, такие как AlexNet[13], VGG[26], ResNet[8], DenseNet[11]..., в качестве магистрали. Позже, по мере увеличения объема данных и глубины сети, исследователи начали рассматривать возможность использования полуавтоматического проектирования сетей и автоматизированного проектирования сетей вместо ручного проектирования сетей. Хорошо известными парадигмами на данном этапе являются AutoML и NAS(поиск по нейронной архитектуре).
Несмотря на эффективность AutoML и NAS, у них есть ограничения: 1) высокое потребление ресурсов, 2) плохая гибкость, 3) плохая обобщенность, 4) результаты проектирования трудно понять.
Тесла использует Regnet(обычные сетевые структуры), спроектированные с остаточными нейросетевыми блоками, в качестве своей нейросетевой магистрали.
RegNet-это новая парадигма сетевого дизайна, представленная в исследовании (ярмарке) Facebook AI 2020, посвященном проектированию пространств сетевого дизайна.