Алексей родился в 1926 году, в деревне Новоселки Ступинского (Малиновского) района Московской области. Когда началась война, ему было всего 15 лет. Несмотря на юный возраст, в ноябре 1942 года Алексея призвали в Армию и направили на обучение в город Покров Московской области.
Весной 1943 рядового Леонова направили в Рязань. Ему предстояло служить в 19-ом танковом корпусе 26-ой мотострелковой Сивашской бригады под командованием генерал-лейтенанта Васильева.
Служа в 3-ем мотострелковом батальоне 26-ой мотострелковой Сивашской бригады, Алексей получил медаль за Отвагу. Вот как был описан подвиг в наградном листе:
«26 августа 1944 г. при проческе леса южнее деревни Муриши товарищ Леонов, будучи наводчиком станкового пулемета, действовал на левом фланге роты и прикрывал ее. Когда рота ворвалась в лес, товарищ Леонов заметил отходящего противника, открыл сильный огонь, уничтожив 5 фрицев. В ходе всего наступления он своим сильным огнем способствовал успешному продвижению роты и обеспечил ее левый фланг».
Во время боев в Прибалтике Алексей воевал в составе экипажа Т-34. В бою он был контужен попавшим в башню танка снарядом, после чего 1,5 месяца провел в госпитале.
После лечения Леонов вернулся в строй. После взятия советскими войсками порта Липао был направлен для дальнейшего прохождения службы в Одесский военный округ, в расположение на станцию Балта в 30 км от Одессы.
После начала Советско-японской войны рядовой Леонов был переведен в десантные войска и направлен на станцию Манзовка вблизи города Ворошилов-Уссурийск. В десантных войсках Леонов служил на СУ-76 — советской лёгкой самоходно-артиллерийской установке (САУ) до 1950 года. Во время службы в десантных войсках совершил 75 тренировочных прыжков, 15 из которых с самолета.