Павел Алексеевич Ротмистров родился в деревне Сковорово Тверской губернии (ныне Селижаровского района Тверской области) 23 июня 1901 года в семье сельского кузнеца, в которой росли еще восемь детей.
Окончил четырехлетнюю сельскую школу, и в 1916 году — Селижаровское высшее начальное училище, после чего работал на железной дороге в Пено сплавщиком леса в верховьях Волги. В 1917 году переехал в Самару, где работал грузчиком.
В апреле 1919 года был призван в ряды Рабоче-крестьянской Красной Армии и зачислен в Самарский рабочий полк. В ходе Гражданской войны Ротмистров принимал участие в боях против войск под командованием адмирала Колчака, ликвидации Мелекесского восстания и советско-польской войне. Воевал под Бугульмой в составе Самарского рабочего полка, а затем в 42-м этапном батальоне 16-й армии Западного фронта. Впоследствии направлен для обучения на Самарские советские инженерные курсы. В 1921 году участвовал в подавлении Кронштадтского восстания.
В 1931 окончил Военную