Николай Коновалов родился в городе Георгиевске Тверской губернии в семье дворян. Его отец, Леонид Васильевич Коновалов, занимал должность военного инженера и скончался в 1918 году, а мать, Екатерина Николаевна Солоники, была домохозяйкой и умерла в 1903 году.
В 1904 году Николай завершил обучение в гимназии в Батуме и поступил на юридический факультет Московского университета. В процессе учебы, в 1906 году, он был принят в школу Московского художественного театра (МХТ) по результатам конкурса, что позволило ему совмещать занятия в театре с университетскими курсами. После окончания школы в 1908 году и до 1910 года, когда он получил диплом университета, Коновалов выступал на сцене филиала МХТ в таких пьесах, как «Драма жизни» Г. Кнута, «Борис Годунов» А.С. Пушкина (в роли юродивого) и «Синяя птица» М. Метерлинка (в роли пса Тило). С 1910 по 1914 годы он работал в Киеве в Театре Соловцова, участвуя в постановках режиссеров Савинова, Соколовского и Синельникова. По приглашению последнего с 1914 по 1916 годы Коновалов служил в его антрепризе в Харькове.
В 1916 году Николай Коновалов, будучи ратником второго ополчения, был мобилизован в армию и направлен рядовым в город Орёл, в 188-й пехотный запасной полк. В октябре 1916 года он был откомандирован в Александровское военное училище, по окончании которого с 1 февраля 1917 года был прикреплён к 85-му пехотному запасному полку в Москве. После событий Февральской революции Коновалов был назначен в распоряжение военной комиссии при Русском театральном обществе, где принимал участие в организации театра при Совете солдатских депутатов и выезжал с его труппой на фронт. Он также был председателем комиссии разумных развлечений при театральной секции солдатских депутатов в гарнизонах Москвы. После Октябрьской революции Коновалов продолжил свою деятельность в театре Совета рабочих и солдатских депутатов.
После демобилизации в 1918 году Коновалов вошёл в труппу Московского театра бывшего Корша (впоследствии Московский драматический театр), где работал до 1933 года. На его сцене он исполнил роли, такие как Ханумов в «Время, вперёд!» по роману В.П. Катаева и Приходько в «Жизнь меняется», а также множество других. Параллельно с актёрской деятельностью он занимался педагогической работой с молодежью. Как режиссёр, он поставил пьесу «Весенние зарницы» Н.А. Крашенинникова и организовывал спектакли для колхозов, готовя бригады для подшефных колхозов. В период с 1920 по 1922 годы он также вёл драматические кружки в автомобильной и броневой школах.
С 1933 года и до конца своей жизни Николай Коновалов работал в Центральном театре Красной армии, где исполнил такие роли, как Крюков в «Шутниках» А.Н. Островского, Краузе в «Бойцах» Б.С. Ромашова, боцман Бухта в «Гибели эскадры» А.Е. Корнейчука и Яша в «Чужом ребёнке» В.В. Шкваркина.
Кинематографическая карьера Коновалова началась в 1938 году, и его экранные персонажи представляли собой почтенных стариков различных профессий. Среди них были путевой обходчик Степан Степанович Архипов в фильме «Аринка», музыканты Македонский в «Музыкальной истории» и Антон Иванович в «Антон Иванович сердится», мастер Зубков в «Светлый путь», капитан Ревунов-Караулов в «Свадьба». В игре актёра сочетались яркая характерность и глубокий драматизм.В своей последней работе, кинокомедии Григория Александрова «Весна», Коновалов исполнил роль Мухина, помощника режиссёра, продемонстрировав при этом выдающийся комедийный талант.
С 1922 по 1936 год Николай Леонидович состоял в браке с артисткой Московского театра драмы Ниной Владимировной Кошкиной.
Николай Коновалов скончался от рака желудка и был похоронен на Ваганьковском кладбище.