Верховным руководящим органом Рабоче-крестьянской Красной армии был Совет Народных Комиссаров РСФСР (с момента образования СССР – Совет Народных Комиссаров СССР). В 1919–1934 годах непосредственное руководство войсками осуществлял Революционный военный совет. В 1934 году на смену ему образован Народный комиссариат обороны СССР.
Первоначально основной единицей формирования РККА, на добровольных началах, являлся отдельный отряд, представлявший собой воинскую часть с самостоятельным хозяйством. Во главе отряда находился Совет в составе военного руководителя и двух военных комиссаров. При нем состояли небольшой штаб и инспекторат.
С накоплением опыта и после привлечения военспецов в ряды РККА началось формирование полноценных подразделений, частей, соединений (бригада, дивизия, корпус), учреждений и заведений.
Во время гражданской войны Рабоче-крестьянская Красная армия разгромила ряд противостоящих ей армий, образовавшихся на руинах рухнувшей Российской империи.
Организация РККА находилась в соответствии с ее классовым характером и военными требованиями начала XX века. Общевойсковые соединения РККА были построены следующим образом:
– стрелковый корпус состоял из двух – четырех дивизий;
– дивизия – из трех стрелковых полков, артиллерийского полка (артполк) и технических частей;
– полк – из трех батальонов, артиллерийского дивизиона и технических подразделений;
– кавалерийский корпус – две кавалерийские дивизии;
– кавалерийская дивизия – из четырех – шести полков, артиллерии, – броневых частей (бронечасти), технических подразделений.
30 июля 1924 года состоялся приказ РВС СССР о присвоении всему командному составу РККА звания "командир Рабоче-крестьянской Красной армии". Также в этот год были введены "служебные категории", от К-1 (низшей) до К-14 (высшей), соответствующие опыту и квалификации командира. В качестве знаков различия использовались треугольники (для младшего комсостава К-1 и К-2), квадраты (для среднего комсостава К-3-К-6), прямоугольники (для старшего командного состава К-7-К9) и ромбы (для высшего командного состава К-10 и выше). Рода войск на форме одежды различались по цвету петлиц.
Каждая отдельная строевая часть Красной армии имела свое революционное Красное Знамя, врученное ей от Советского правительства.
Законом СССР "Об обязательной военной службе", принятым 18 сентября 1925 года ЦИК и СНК СССР, определялась организационная структура Вооруженных Сил, в которые входили стрелковые войска, кавалерия, артиллерия, броневые силы, инженерные войска, войска связи, Воздушные и Морские силы, войска объединенного государственного политического управления (ОГПУ) и конвойная стража СССР. Их численность в 1927 году составляла 586 000 человек личного состава.