Он появился на свет 1 августа 1922 года в удмуртском городе Глазов. Отец будущего актёра ушёл из жизни, когда Лёша был ещё подростком, а потому парню пришлось рано повзрослеть. Летом он торговал овощами и фруктами на рынке, чтобы к первому сентября накопить на новые школьные ботинки. Коммерческую хватку с годами он не растерял — впоследствии коллеги по театру всегда обращались именно к Алексею, если нужно было вести деловые переговоры.
После школы юноша рванул в столицу поступать в ГИТИС. Его приняли с первой попытки, но в разгар учёбы началась война. Алексей попал в состав фронтовой бригады, выступал перед ранеными бойцами. Получив диплом, Глазырин оказался в Таганроге, где на протяжении следующих десяти лет выходил на сцену Театра имени Чехова. Ещё семь лет актёр отдал новосибирскому театру «Красный факел» и лишь в начале 60-х перебрался в Москву, где для него нашлось место в труппе Театра имени Станиславского. Одной из лучших его работ на сцене стала роль Ленина в постановке «6 июля» — Глазырин создал нетипичный образ волевого, опасного и глубоко одинокого человека.
В кино актёр дебютировал в 34 года — сыграл директора завода в драме «В погоне за славой». Первую известность ему принесла главная роль в военной ленте Александра Столпера «Живые и мёртвые» — Глазырин убедительно перевоплотился в старшего политрука Малинина. После этого актёр снялся в фильмах «Знойный июль», «Война и мир», «На диком береге», «Вий», «Карантин», «Щит и меч».
Со своей будущей женой Алексей Глазырин познакомился ещё в студенчестве. Очаровательная однокурсница по ГИТИСу Зоя Жукова сразу обратила на себя внимание начинающего актёра. Они сыграли свадьбу и вместе отправились по распределению в Таганрог. Здесь на свет появились дочери актёра, в которых он души не чаял. К сожалению, отношения с супругой вскоре дали трещину. Последовал развод, который стал для Глазырина тяжёлым ударом. Коллеги вспоминали, что от тоски он мог подолгу лежать на диване и завывать унылые «волчьи песни», от которых грустно становилось всем вокруг. Актёр вообще отличался замкнутостью и немногословностью, никому не открывал сердце, все переживания хранил в себе.
В начале 70-х Алексей Глазырин получил приглашение в картину «Белорусский вокзал». Ему досталась роль бывшего командира сапёрной роты, а ныне директора завода Харламова. Эту работу многие называли лучшей в карьере актёра. Правда сам он готовую картину не увидел — 48-летний Алексей Глазырин умер от инфаркта 13 апреля 1971 года буквально за несколько дней до премьеры.
Уже после смерти Алексея Глазырина на молдавской киностудии вышла военная драма «Красная метель», где он играл комиссара. Местом упокоения актёра стало Введенское кладбище в столице — незадолго до этого здесь снимали некоторые эпизоды для «Белорусского вокзала». Спустя тридцать лет из жизни ушла жена актёра Зоя Жукова — её похоронили рядом с могилой мужа.