Он появился на свет 13 декабря 1927 года в казахстанском селе Алексеевка в творческой семье. Отец мальчика был театральным актёром, мама работала гримёром, а сестра Римма, которая была старше на два года, с раннего детства мечтала о сцене. Жили Марковы небогато, часто переезжая с места на место в поисках лучшей доли. Вскоре семья обосновалась в Саратове, где для всех нашлась работа в драматическом театре. Именно здесь четырёхлетний Лёня вместе с папой и старшей сестрой начал выходить на сцену, причём ему это занятие не слишком нравилось — по вечерам он хотел спать, но приходилось играть в спектаклях. Самого мальчика больше привлекала профессия художника — он любил рисовать, лепить из глины, вырезать по дереву.
Однако творческие гены и прочные семейные узы взяли своё. После школы Леонид вместе с сестрой поступил в студию при Вологодском драматическом театре, а затем по приглашению одного из столичных педагогов Марковы поехали в столицу на просмотр в «Ленком». Талантливых брата и сестру сразу приняли в студию при знаменитом театре, а вот с жилплощадью поначалу было тяжело — пару ночей они провели на вокзале, затем разместились в театральной подсобке и лишь позже переселились в комнату в общежитии.
Получив дипломы, Леонид и Римма пополнили труппу «Ленкома». Карьера статного красавца Лёни быстро пошла в гору, а вот для его сестры роли находились редко — Римма был на голову выше почти всех актёров и мужчины с ней на одной сцене смотрелись комично. Этому театру Леонид отдал десять лет, сыграл в «Вишнёвом саде», «Живом трупе» и других нашумевших постановках. Первой из «Ленкома» ушла Римма — её просто-напросто уволили, а брат, который уже приобрёл определённый авторитет, за сестру не вступился. Римма долго не могла простить такого предательства, ведь она на протяжении всей жизни опекала и во всём поддерживала своего младшего Лёню.
Леонид тогда промолчал во многом из-за своей первой жены. Несмотря на видную внешность и многочисленных поклонниц, он был скромным и застенчивым, боялся проявлять инициативу в отношениях с девушками. Однажды в студенческие годы он даже упал в обморок от ревности, когда увидел, как однокурсница, к которой он питал тайные чувства, общается с другим парнем. С актрисой Тамарой Басовой начинающий актёр познакомился за кулисами театра. Девушка сразу попала под обаяние коллеги по сцене и быстро сумела довести дело до ЗАГСа. После свадьбы поклонниц у Леонида не убавилось, и Тамару это выводило из себя. В порыве ревности она могла расцарапать мужу лицо и даже запретила ему общаться с собственной сестрой. Марков пытался следовать требованиям жены, но хватило его ненадолго. После развода Леонид пришёл к сестре и упал перед ней на колени — Римма брата конечно простила.
Карьера Леонида Маркова в кино развивалась не так стремительно, как в театре. Он снимался понемногу, но роли были эпизодическими и имя актёра часто даже не попадало в титры. Он пробовался на главную роль в военной драме «Сорок первый», но режиссёр Григорий Чухрай отдал предпочтение Олегу Стриженову. Ускользнула от Маркова и роль Распутина в «Агонии» Элема Климова — тогда выбор был сделан в пользу Алексея Петренко.
Известность начала приходить к Леониду Маркову в 70-х — он сыграл господина де Реналя в «Красном и чёрном», Петра Урбенина в «Моём ласковом и нежном звере», профессора Смирновского в «Гараже». Однако делом жизни для него всегда оставался театр. После «Ленкома» актёр на шесть лет перешёл в Театр Пушкина, где блистал в постановке «Поднятой целины», а затем обосновался в Театре имени Моссовета. За двадцать лет на этой сцене он сыграл десятки ярких ролей — Арбенина в «Маскараде», Звягинцева в «Они сражались за Родину», Порфирия Петровича в «Петербургских сновидениях», Алексея Орлова в «Царской охоте».
Тем временем личная жизнь актёра не складывалась. Его по-прежнему окружали поклонницы, он успел ещё дважды жениться, но оба брака оказались несчастливыми и вскоре распались. Во многом сказывались проблемы Леонида Маркова с алкоголем. Дома или перед спектаклем он никогда не позволял себе лишнего, зато на гастролях отрывался по полной программе. Поначалу в алкогольной эйфории он играл на гитаре и читал Пушкина, но со временем под действием спиртного начал превращаться в излишне прямолинейного и грубого человека, мог наговорить обидных слов, о чём потом очень жалел. Поговаривали, что конкуренты по театру специально спаивают Маркова, чтобы освободить себе место в спектаклях. Как бы там ни было, проблема усугублялась и талантливый актёр постепенно утрачивал доверие близких и коллег.
Всё изменилось, когда в его жизни появилась новая избранница. Елена работала инженером на телевидении и была младше актёра на 16 лет, но для них обоих этой разницы в возрасте словно и не существовало. Вскоре после знакомства влюблённые сыграли свадьбу. Ради жены Леонид смог остепениться, а всё свободное время проводил с супругой в загородном доме. За двадцать лет совместной жизни они жалели только об одном — что судьба так и не подарила им детей.
В начале 90-х Леонида Маркова пригласили на съёмки в мистической комедии «Отель Эдем». Актёру досталась роль Сатаны, от которой многие до него отказались, боясь накликать на себя беду. Когда работа над фильмом подходила к концу, Марков почувствовал себя плохо. Его срочно увезли в больницу, где врачи поставили неутешительный диагноз — рак желудка в запущенной форме. Спасти актёра было уже невозможно — через две недели 63-летний Леонид Марков ушёл из жизни. Похоронили актёра на Кузьминском кладбище в столице.