История управления берёт начало 28 марта 1924 года, когда в составе Инспектората Рабоче-крестьянской Красной Армии была создана Инспекция по территориальным формированиям, физкультуре и допризывной подготовке. В том же 1924 году формируются и соответствующие инспекции в военных округах.
В штат каждой отдельной воинской части всех родов войск было предписано ввести должность руководителя физической подготовки на правах командира роты, а в штат каждой дивизии – должность наблюдающего за физической подготовкой на правах командира батальона.
Таким образом, 100 лет назад в армии и на флоте стала складываться единая система управления физической подготовкой на всех организационных уровнях.
В настоящее время основные направления деятельности включают в себя управление физической и горной подготовкой, а также спортом в Вооружённых Силах, реализацию мероприятий государственной политики в области физической культуры и спорта в Вооружённых Силах.
Также управление координирует деятельность Центрального спортивного клуба Армии и Военного института физической культуры – главной кузницы кадров специалистов физической и горной подготовки.