Родители прочили Николаю карьеру по гражданской линии, однако для юноши не было сомнений: его призвание — военное ремесло. Он поступил в 3-е Александровское военное училище и непременно получал высшие оценки по всем дисциплинам. На этом образование Юденича не закончилось: он получил направление в Николаевскую академию Генштаба.
В 1892-м Юденич назначен старшим адъютантом штаба Туркестанского военного округа. Спустя 4 года он становится полковником, чему обязан исключительно своему таланту и трудоспособности — никакая протекция Николаю Николаевичу не оказывалась. По воспоминаниям современников, Юденич был прост в общении, в нем не было и тени высокомерия. Он никогда не повышал голоса на своих подчиненных и отличался гостеприимством: в его квартире почти каждый вечер собирались сослуживцы.
В ходе русско-японской войны Юденич составил себе блестящую репутацию. Так, он отличился в битве под Мукденом, отразив несколько массированных ударов врага и лично возглавив контратаку. Для руководства стало ясно, что Юденич способен принимать смелые тактические решения, исходя из конкретной ситуации — качество для военачальника очень ценное. За свои успехи Николай Николаевич был удостоен ордена св. Владимира 3-й степени с мечами, орденом св. Станислава 1-й степени с мечами. В ходе военных действий он получил тяжелое ранение и находился в госпитале до 1907 года.
В годы Первой Мировой Юденич командовал Кавказской армией. За взятие турецкой крепости Эрзерум он получил орден Святого Георгия.
После февральской революции Юденич назначен командующим Кавказским фронтом, однако эту должность он занимал всего месяц. Николай Николаевич встал в оппозицию по отношению к Временному правительству, и его отозвали в Петроград. Тучи над ним сгущались: было ясно, к чему приведет несогласие с официальным курсом.
Грянула Октябрьская революция, и теперь Юденич проживал в Петрограде нелегально. Выехать за рубеж ему удалось только в 1919 году — вместе с семьей он отправился в Финляндию по поддельным документам.
Военачальник категорически не принял новую власть. Своей главной целью он видел изгнание большевиков. Члены «Русского комитета» в Хельсинки предложили Юденичу стать лидером белого движения на северо-западе России. Он отправился в Эстонию, где начал формировать войска, пытаясь заручиться поддержкой (в том числе, финансовой) иностранных союзников. Впрочем, он прекрасно понимал, что особенно рассчитывать на этих союзников не приходится. Стратегические цели сторон были разными: так, армия Эстонии стремилась выбить красноармейские части из страны, русские хотели одержать победу над захватившими власть большевиками.
В мае 1919 года Юденич руководил наступлением белых частей (включая финские и эстонские отряды) на Петроград, закончившимся неудачей. В сентябре он возглавил второй поход, который был обречен на провал из-за трений с союзниками — эстонцами, англичанами, финнами. Юденич оказался вынужден отвести войска назад; на территории Эстонии они были интернированы союзниками. Генерала арестовали, однако затем освободили по требованию Антанты.
Он выехал в Англию, где избегал внимания журналистов и жил затворником. Последние годы жизни Юденич провел во Франции: в этот период он отошел от политики и принимал участие в работе русских просветительских организаций.