В 1924 и 1927 годах команда ОППВ заняла вторые места в чемпионате Москвы. 23.02.1928, к десятой годовщине Красной Армии специальным приказом Наркома обороны был создан Центральный Дом Красной Армии (ЦДКА)
В мае 1928 года, по инициативе главного инспектора РККА по физической культуре Б. А. Кальпуса ОППВ вливается в новую армейскую организацию в качестве спортивной секции. Весь штат, все сооружения и имущество ОППВ были переданы ЦДКА. Новой армейской структуре решением Исполкома Моссовета был передан в дар комплекс зданий и парк бывшего Екатерининского института (тогда парк ЦДКА, ныне парк Российской Армии) на площади Коммуны. Естественно, что и футбольная команда тоже стала именоваться "ЦДКА" Бывший стадион ОППВ теперь стал именоваться Летней спортивной базой ЦДКА. Там появились новые игровые площадки, а трибуны для зрителей вокруг футбольного поля были расширены почти вдвое и вмещали около 15 тысяч зрителей. Наибольшего успеха команда армейцев ЦДКА, добилась в 1935 году, завоевав первое место в осеннем первенстве Москвы.
С 1936 года армейская команда стала выступать в чемпионате СССР. Первый свой матч в чемпионате армейцы выиграли в Сокольниках у ленинградской "Красной Зари" со счетом 6:2. Автором первого гола москвичей , забитого на 17-й минуте встречи сильнейшим ударом в правый нижний угол ворот, стал дебютант из команды Электрозавода Иван Митронов. Константин Рязанцев стал автором первого армейского "дубля" , еще по мячу в ворота краснозаревцев провели Александр Щавелев ( некоторые статистики приписывают ему еще и первый мяч) и Евгений Щелагин, а один гол в свои ворота забил ленинградец Дмитрий Карев (это был первый автогол в истории чемпионатов СССР) В этом матче судья Евгений Георгиевский назначил первый в истории чемпионатов СССР пенальти но ленинградец Николай Ярцев его не реализовал, послав мяч мимо ворот.
В осеннем первенстве Москвы 1936 года ЦДКА занял последнее место. И следующий сезон должен был провести в группе "Б". Но тут в дело вмешались высшие военные чины. Армейцы уже успели провести два матчя в низшей группе, когда специальным постонавлением всесоюзного комитета по делам физкультуры и спорта при Совнаркоме СССР ЦДКА, как единственная в РККА команда мастеров футбола, был возвращен в группу "А". Армейцы такого подарка не оценили и звершили первенство в сильнейщем дивизионе на последнем месте. Но им снова повезло- состоялась очередная реформа в высшей союзной лиге, которую расширили до 26 команд.
В марте 1942 года футболисты ЦДКА , имевшие среднее образование, были отправлены для краткосрочного обучения на военный факультет Института физкультуры. По его оканчании шестнадцать игроков получили звание младшего лейтинанта, вследствие чего после военный ЦДКА стали называть "Команда лейтинантов". В годы войны в столице разыгрывался чемпионат города, и в 1943 году армейцы стали победителями этого первенства. В 1944 был возобновлен розыгрыш "Кубка СССР", и ЦДКА дошел до финала, где в упорной борьбе уступил ленинградскому Зениту со счетом 1:2.
В 1946, 1947 и 1948 года армейцы три сезона подряд становились сильнейщей командой СССР. Это достижение только через два десятка лет покориться другой команде- "Динамо" Киев. В 1948 армейцы оформили свой первый "золотой дубль", переиграв в финале Кубка СССР московский "Спартак".
Уступив в 1949 году первенство динамовцам, армейцы, уже без Федотова и Боброва, вернули себе чемпионский титул в 1950 году, а в следущем сезоне закрепили свой успех. С этого года команда стала называтся ЦДСА (Центральный Дом Советской Армии), и под новым имени оформила свой второй "золотой дубль".
В 1952 году ведущие футболисты ЦДСА приняли участие в Олимпийских играх, проходивших в Финляндии.
В 1/16 финала советские футболисты вырвали победу у сборной Болгарии (2:1), но в четвертьфинале уступили Югославам (5:5, переигровка 1:3.
Вскоре после возвращения на родину армейская команда, считавшаяся базовой для национальной сборной была расформирована. Сыгранные в чемпионате 1952 года результаты армейцев были аннулированы, а футболистов распредилили по другим командам. Так завершила свое существование "команда лейтенантов"
Были ликвидированы и другие армейские коллективы. 30.09.1953 был издан приказ Министра обороны СССР о воссоздании футбольных команд при окружных домах офицеров, в том числе и ЦДСА.
В 1955 году армейцы выиграли Кубок СССР, победив в финальном поединке земляков-динамовцев. В 1955 и 1956 годах команда ЦДСА стала обладательницей бронзовых медалей первенства СССР.
В феврале 1957 года команда поменяла название с ЦДСА на ЦСК МО- это было связано с внутриармейской реформой. Центральный клуб армии представлял теперь не Центральный Дом Совесткой армии, а Центральный Спортивный клуб Министерства обороны.
В 1960 году главный армейский клуб страны в последний раз сменил свое название и стал именоваться ЦСКА
В 1961 году, когда старшим тренером ЦСКА был Константин Бесков, санаторий Минестерства Обороны "Архангельское" был переоборудован под тренировочную базу ЦСКА. Тогда же появились в команде молодые футболисты Владимир Федотов, Альберт Шестернев и Владимир Поликарпов, вскоре ставшие лидерами армейского коллектива.
В 1967 году команда ЦСКА под руководством Всеволода Боброва впервые за 12 лет вышла в финал кубка СССР, но в решающем матче проиграла ведомому Константином Бесковым московскому Динамо со счетом 0:3.
Следующего успеха поклонникам ЦСКА пришлось ждать целых 20 лет. Все эти годы команда под руководством многочисленных тренеров, в основном, вела борьбу за сохранение прописки в высшей лиге.
Сезон 1984 года считается худшим в истории ЦСКА. За весь чемпионат команда под руководством Юрия Морозова, перед началом сезона отчислившего из коллектива 13 человек , набрала 19 очков из возможных 68 и в итоге заняла последнее место. Впервые в клубной истории ЦСКА вылетел в первую лигу. В чемпионате 1987 года ЦСКА выступил плохо и вновь покинул высшую лигу.
Первым трофеем, завоеванным армейцами в 1991 году, стал Кубок СССР. 23 июня в Лужниках, футболисты ЦСКА в финальном поединке со счетом 3:2 победили столичное Торпедо, проигрывая к концу первого тайма 0:1 Голы у армейцев в тот день забили Игорь Корнеев (дубль) и Олег Сергеев. Так ЦСКА в пятый раз завоевал заветный хрустальный приз.
Радость от этой победы была омрачена гибелью (на следующий день после финала) в автомобильной катастрофе 23-летнего армейского вратаря Михаила Еремина. На похоронах футболисты ЦСКА поклялись одержать победу в чемпионате страны, в память о Михаиле. И свое обещание они сдержали. 27.10.1991 ЦСКА обыграв московское Динамо со счетом 1:0 , досрочно, за тур до конца чемпионата страны, завоевал золотые медали первенства. Так был оформлен последний золотой дубль в истории советского футбола. В 1992 году страна под названием СССР перестала существовать.