К лету 1937 году Ротмистров, служивший все это время в оперативном отделе штаба Блюхера, был назначен командиром полка, н тут в его жизни произошел крутой поворот. Всего через несколько месяцев он получил предписание сдать полк и прибыть в Москву, где его ждала должность преподавателя тактики в недавно созданной Военной академии моторизации и механизации РККА.
В мемуарах Ротмистров писал: «Мотивировали это назначение тем, что за время службы на Дальнем Востоке, и особенно в штабе ОКДВА, я, мол, достаточно хорошо ознакомился с танковыми частями и подразделениями, видел их в действии в ходе учений и маневров, к тому же хорошо знал общевойсковую тактику. На следующий день меня уже принимал начальник академии дивизионный инженер И. А. Лебедев.
— Как же я буду преподавать тактику танкистам, если не был танкистом? — спросил я Лебедева.
— Все мы когда-то не были танкистами. Потребовали обучать танкистов — учим и сами учимся, — хмурясь, ответил Иван Андреевич.
— Тогда прошу дать мне некоторое время для изучения техники и подготовки к проведению занятий со слушателями.
— Вот это другой разговор, — улыбнулся Лебедев и крепко пожал мне руку. — Уверен, что вы полюбите свою новую работу и наши молодые, но весьма перспективные бронетанковые войска».
В начале 1940 года Ротмистров. Успевший к этому времени защитить диссертацию по применению танков в войне, был направлен на Карельский перешеек. Оказавшись на фронте, он по личному желанию был направлен в действующую танковую часть и принял участие в штурме «линии Маннергейма». Вскоре он стал начальником штаба 35-й легкой танковой бригады и был награжден вторым орденом Красного знамени.
В декабре 1940 Ротмистров был назначен заместителем командира 5-й танковой дивизии 3-го механизированного корпуса Прибалтийского Особого военного округа, дислоцированного в Литве. Начало Великой Отечественной войны он встретил начальников штаба этого корпуса в Каунасе. Через несколько дней 3-й механизированный корпус оказался в окружении. Только через 2 месяца Павел Ротмистров вместе с остатками штаба смог перейти линию фронта уже в Брянщине.
В сентябре 1941 года полковник Ротмистров принял командование 8-й танковой бригадой, которая состояла из мобилизованных рабочих-путиловцев, отказавшись от генеральской должности начальника штаба бронетанковых войск. Спустя месяц в ходе боев за Торжок он едва не попал под трибунал по указанию Конева, но был спасен своим прямым начальником – генералом Ватутиным. Позднее Ротмистров отличился в ходе контрнаступления под Москвой, был награжден орденом Ленина, а его бригада стала гвардейской и дошла до Ржева.