Рассмотрев множество вариантов, мы создали свой сервер для исполнения (ифнеренса) нейронных сетей на CPU/iGPU на базе Intel NUC. Сервер содержит до 8 вычислительных модулей Intel NUC с процессорами 8-го поколения Intl Core i5 и встроенной графикой Iris Plus 655. Это позволяет получить до 2000 FPS (до 80 потоков RTSP) при использовании достаточно популярных моделей SSD для детекции и Mobilenet v.2 для классификации объектов.
Конфигурация:
- 8 вычислительных модулей Intel NUC8i5BEH
- 2 БП по 600 Вт с возможностью "горячей замены"
- Вход до 10 Гбит/сек., внутренняя маршрутизация - 1 Гбит/сек.
- форм-фактор 1U для установки в серверные стойки
Подробнее - https://nucserver.ru
