Николай Николаевич Поликарпов родился 8 июня 1892 года в селе Георгиевское Ливенского района Орловской губернии в семье сельского священника. Учился в местном духовном училище и в Орловской духовной семинарии. В 1911 году экстерном оканчивает Орловскую гимназию и приезжает для дальнейшей учебы в столицу. В 1916 году окончил Петроградский политехнический институт и курсы авиации и воздухоплавания при нём.
С 1916 года работает инженером на Русско-Балтийском вагонном заводе в Петрограде, где под руководством И.И.Сикорского участвует в постройке самолёта «Илья Муромец» и проектировании истребителей. С 1918 года работает на заводе «Дукс» в Москве (ныне ракетно-космический центр ЦСКБ «Прогресс»), стал руководителем технического отдела.
В январе 1925 года организовывает на базе завода «Авиахим» опытный конструкторский отдел и возглавляет его. В феврале 1926 года назначен начальником отдела сухопутного самолетостроения (ООС) ЦКБ «Авиатреста».
В начале 1920-х годов Поликарпов приступает к конструированию советских самолетов и добивается выдающихся успехов. Весной 1923 года совместно с И.М.Костиным и А.А.Поповым создает первый советский истребитель И-1 (ИЛ-400). В 1923 году под его руководством создан весьма удачный по меркам того времени самолет-разведчик Р-1, ставший первым серийным советским самолетом.
В 1925 году создан пятиместный пассажирский самолет ПМ-1. Через год был создан двухместный истребитель 2И-Н1. В 1927 году появляется истребитель И-3 и разведчик Р-5, также принятый на вооружение. Этот самолет получил широкую известность в связи со спасением экспедиции парохода «Челюскин» и успешным применением в условиях Арктики, при освоении Сибири и Дальнего Востока.
В 1928 году Поликарпов создает свой легендарный самолёт У-2, получивший всемирную известность и переименованный в честь создателя в По-2 после смерти конструктора. У-2 (По-2) строился до 1959 года. За это время выпущено более 40 тысяч машин, для них было подготовлено более 100 тысяч летчиков. Во время Великой Отечественной войны У-2 успешно применялись в качестве разведчиков и ночных бомбардировщиков.
24 октября 1929 года судьба конструктора делает крутой поворот. Его арестовывают по обвинению «участие в контрреволюционной вредительской организации». Более двух месяцев Поликарпов находился в ожидании расстрела. В декабре того же года без отмены или изменения приговора авиаконструктор направлен в «Особое конструкторское бюро» (ЦКБ-39 ОГПУ), организованное в Бутырской тюрьме. Затем бюро переводят на Московский авиазавод №39. Здесь в 1930 году он разработал истребитель И-5, который находился на вооружении 9 лет.
18 марта 1931 года приговор был изменен на десять лет. После показа Сталину, Ворошилову и Орджоникидзе высшего пилотажа на самолете И-5, пилотировавшегося летчиками Чкаловым и Анисимовым, вынесено новое постановление от 28 июня 1931 года - считать приговор в отношении Поликарпова условным. 7 июля 1931 года Президиум ЦИК СССР принял решение об амнистии группы лиц, в том числе Николая Николаевича. Выйдя на свободу в мае 1931 года, был назначен заместителем начальника бригады в ЦКБ П.О.Сухого.
С 1933 года Поликарпов - начальник конструкторской бригады № 2 Центрального конструкторского бюро на базе авиазавода № 39, которое возглавлял С.В.Ильюшин. В середине 1930-х годов становится Главным конструктором Горьковского авиационного завода № 21 имени Серго Орджоникидзе. В 1930-х годах им были созданы истребители И-15 (1933), И-16 (1934), И-153 «Чайка» (1938).
В 1935 году на И-15 летчик В.К.Коккинаки установил мировой рекорд высоты – 14 575 метров. Тогда же Поликарпов создает опытные пикирующие бомбардировщики ВИТ-1, ВИТ-2, одномоторный легкий бомбардировщик «Иванов», учебно-тренировочный истребитель УТИ-4. В 1938 году после ареста А.Н.Туполева Поликарпов назначается Главным конструктором авиазавода № 156. К концу 1938 года был построен истребитель И-180 -развитие И-16 с двигателем М-87. Но гибельна в нем Чкалова в первом же испытательном полете вновь ввергло Поликарпова в опалу. Были арестованы его заместитель - ведущий конструктор Д.Томашевич, директор завода №156 Усачев и другие. Самого Поликарпова от ареста спасло только то, что он отказался подписать акт готовности самолета к первому полету.
В мае 1939 года он стал техническим директором и главным конструктором Государственного авиазавода № 1. Параллельно со скоростным И-180 продолжил работу и над серией маневренных бипланов - И-190 (1939), И-195 (проект 1940). Но работа на новой должности оказалась недолгой. В том же году Поликарпов выехал в командировку в Германию, а в его отсутствие в декабре этого же года было произведено выделение из состава конструкторского бюро нового ОКБ, в которое переданы лучшие кадры и производственные площади Поликарпова. Но самое главное, от конструктора забрали его проекты. Поликарпова назначают главным конструктором нового государственного завода № 51 и начальником ОКБ-51. Ему пришлось с нуля создавать производственную базу и набирать работников конструкторского бюро. В 1938-1944 годах он сконструировал ряд опытных военных самолётов: ТИС, ВИТ, СПБ, НБ и ряд других.
Указом Президиума Верховного Совета СССР от 28 октября 1940 года за выдающиеся достижения в области создания новых типов вооружения, поднимающих оборонную мощь Советского Союза, Поликарпову Николаю Николаевичу присвоено звание Героя Социалистического Труда с вручением ордена Ленина и золотой медали «Серп и Молот». 11 января 1941 года был поднят в небо истребитель И-185. В 1942 году он прошел государственные испытания и войсковые испытания на Калининском фронте. По оценке НИИ ВВС, самолет превосходил все отечественные и немецкие серийные истребители. Но недоработанный двигатель М-71 и катастрофа, в которой погиб летчик-испытатель В.А. Степанчонок, а также чрезмерная загруженность авиазаводов не позволили запустить самолет в серию.
С 1940 года не прекращалась травля конструктора, его работы тормозились и оставались опытными разработками, руководству страны поступали предложения закрыть его конструкторское бюро. Только в 1942 году на одном из крупных совещаний руководителей авиационной промышленности Сталин взял Поликарпова под свою защиту. В 1943 году был назначен профессором и заведующим кафедрой конструкций самолетов Московского авиационного института. Последней работой выдающегося конструктора был проект ракетного истребителя.
Умер Поликарпов 30 июля 1944 года, похоронен на Новодевичьем кладбище в Москве.