С 1960 года Хрущев стал проводить свою знаменитую реформу армии, против которой довольно активно, если не сказать яростно выступило высшее командование под началом министра обороны маршала Малиновсоко и начальника Генштаба маршала Захарова. Оба маршала были против непродуманного массового сокращения армии и флота, которое в присущей ему манере задумал первый секретать. Они пытались доказать, что вооруженные силы должны развиваться сбалансировано, Захаров же вообще был сторонником профессионализации армии, прекрасно понимая, что техника все больше вытесняет людей, а для ее управления нужны хорошо подготовленные специалисты.
Чтобы сломить сопротивление военных, Хрущев решил усилить роль политических органов в армии в конце 1962 г. и назначил на должность начальник ГлавПУра партийного чиновника Епишева, которого специально для этого вернули в войска и присвоили звание генерала армии. Его предшественник маршал Голиков был против выдвижения советских ядерных ракет на Кубу, за что и поплатился своим местом - Хрущев отправил его в "райскую группу" генеральных инспекторов МО СССР.
Епишев сразу же перешел в наступление на маршалов, требуя от них подчиниться мудрым решениям партии во главе с Хрущевым и почти открыто угрожая Малиновскому судьбой опального маршала Жукова, который мог бы до сих пор влиять огромную роль в управлении армии, а отправлен на пенсию. Маршал Малиновский прекрасно помнил, что служилось в сего преждественником, в отставке которого он не так давно принял самое деятельное участие. В феврале 1963 года Хрущеву удалось сместить Захарова, новым начальником Генштаба стал полностью лояльный первому секретарю маршал Бирюзов. Захаров же стал начальником академии Генштаба, отправить его на заслуженный отдых не удалось.
Бирюзов в бытность свою командующим ракетными войсками и подсказал Хрущеву "блестящую" идею отправил советские ядерные ракеты на Кубу в ответ на размещение американского атомного оружия в Турции. Как ракетчик, он был естественным сторонником и во многом инициатором идей Хрущева о сокращении других видов вооружения и родов войск, поскольку это означало многократное увеличение значимости ракетных войск стратегического назначения. Малиновский прекрасно понимал, что относительно молодой Бирюзов, ему еще не было 60-ти лет, совершенно явно метит на его место и рано или поздно Хрущев сделает его министром обороны. Поэтому маршал Малиновский в итоге и примкнул к заговору Брежнева.
14 октября 1964 года при полной поддержке армии заговорщики сместили Хрущева, а 19 октября маршал Бирюзов погиб в авиакатастрофе во время официального визита в Югославию. Сразу после этого Захаров вернулся на пост начальника Генштаба.