Родился в селе Голяевка Тамалинской волости Сердобского уезда Саратовской губернии. В настоящее время село Голяевка называется Вишнёвое и находится в составе Тамалинского района Пензенской области. Дом, в котором родился Н. И. Крылов в селе Вишнёвое, сохранился до наших дней.
Родился в семье священника Казанской церкви села Голяевка)[2]. Русский[3]. Вскоре семья Крыловых переехала в село Аркадак Балашовского уезда Саратовской губернии[4].
С 1918 года — в комсомоле, был секретарём уездной комсомольской ячейки и бойцом добровольческого партийно-комсомольского красногвардейского отряда.
В годы гражданской войны пытался поступить в Красную Армию, в начале 1919 года был зачислен в авиационный дивизион Южного фронта, но через несколько дней тяжело заболел и был оставлен у родителей. Тогда же сдал экстерном экзамен за школьный курс и получил свидетельство об окончании школы 2-й ступени.
В этой должности встретил Великую Отечественную войну. В первый день войны вступил в бой с румынскими войсками, безуспешно пытавшимися перейти границу. Когда возникла угроза захвата врагом Одессы, войска с границы были отведены к ней, а полковник Н. И. Крылов был назначен в начале июля 1941 года заместителем начальника оперативного отдела Приморской армии. В условиях нехватки командиров в окружённой Одессе, 11 августа стал начальником оперативного отдела армии, а уже с 21 августа — начальником штаба Приморской армии. В этой должности прошёл от начала до конца оборону Одессы и оборону Севастополя. 8 января 1942 года был тяжело ранен при артобстреле во время выезда в войска под Севастополем, по медицинским показателям подлежал эвакуации, однако по настоянию командующего армией генерал-майора И. Е. Петрова был оставлен в городе. В конце марта вернулся к штабной работе, но незалеченная рана потом причиняла боль всю жизнь. Эвакуирован из города в последние дни обороны со штабом армии на подводной лодке .
Затем более месяца был в резерве и писал отчёт об обороне Севастополя. В августе 1942 года назначен начальником штаба 1-й гвардейской армии, но через несколько дней срочно вызван в Сталинград и назначен начальником штаба 62-й армии, которая вела многомесячные уличные бои в городе. До прибытия нового командующего В. И. Чуйкова почти месяц командовал армией. На протяжении всей Сталинградской битвы со штабом оставался в городе, хотя штаб армии располагался примерно в 800 метрах от позиций врага. Там стал близким другом В. И. Чуйкова, а также много месяцев его начальником был член Военного совета фронта Н. С. Хрущёв. После войны Н. И. Крылов напишет очерк «Волжская твердыня».
После победы под Сталинградом генерал Крылов назначен в мае 1943 года командующим войсками 3-й резервной армии Ставки Верховного Главнокомандования.
С июля 1943 года — командующий 21-й армией на Западном фронте.
С октября 1943 года — командующий 5-й армией на Западном фронте, участвовал в Оршанской операции и Витебской операции. Затем армия передана 3-му Белорусскому фронту. Во главе этой армии ярко раскрылся полководческий талант Крылова. В ходе Белорусской стратегической операции 1944 года части армии успешно наступали у Витебска, Орши, Минска, штурмовали Вильнюс и отбивали контрудары врага под Каунасом.
За отличное командование войсками в Белорусской операции указом Президиума Верховного Совета СССР от 19 апреля 1945 года Н. И. Крылову присвоено звание Герой Советского Союза с вручением ордена Ленина и медали «Золотая Звезда».
В октябре-декабре 1944 года два месяца лежал в госпитале в Москве (открылась старая рана), затем вернулся на пост командующего и отличился в Восточно-Прусской операции