На современных видеокартах можно делать параллельные математические вычисления, не связанные с 3D-графикой. Наиболее известные программные интерфейсы Direct3D (DirectX) или OpenGL, ответственные за вывод графики, в данном случае не подходят. На сегодня есть два основных типа интерфейсов для доступа к таким вычислениям, в том числе векторным, на GPU – CUDA и OpenCL. Стоит также уточнить, что в отличие от многоядерных CPU, ядра видеокарт менее универсальны и более просты. Из-за этого, их может быть на видеокарте огромное количество...

Хочется от своего собственного сервера получать максимум, в том числе играть на нем в игры, работать с медиа и использовать сервисы на базе ML-моделей, которые активно используют расчеты на видеокарте. Сложности начинаются, когда у Вас Linux, видеокарта NVIDIA, система виртуализации и работа с Docker. В статье ниже будем пытаться не загрустить и решить возникшие трудности. В своей работе использую Ubuntu Server чаще всего, поэтому команды будут работать для этой OS. Здесь относительно все просто...