Сохранились студенческие записи лекций Лобачевского (от 1817 года), где им делалась попытка доказать пятый постулат Евклида, но в рукописи учебника «Геометрия» (1823) он уже отказался от этой попытки. В «Обозрениях преподавания чистой математики» за 1822/1823 и 1824/1825 годы Лобачевский указал на «до сих пор непобедимую» трудность проблемы параллелизма и на необходимость принимать в геометрии в качестве исходных понятий, непосредственно приобретаемые из природы.
7 (19) февраля 1826 года Лобачевский представил для напечатания в «Записках физико-математического отделения» сочинение: «Сжатое изложение начал геометрии со строгим доказательством теоремы о параллельных» (на французском языке). Но издание не осуществилось. Рукопись и отзывы не сохранились, однако само сочинение было включено Лобачевским в его труд «О началах геометрии» (1829—1830), напечатанный в журнале «Казанский вестник». Это сочинение стало первой в мировой литературе серьёзной публикацией по неевклидовой геометрии, или геометрии Лобачевского.
Лобачевский считает аксиому параллельности Евклида произвольным ограничением. С его точки зрения, это требование слишком жёсткое, ограничивающее возможности теории, описывающей свойства пространства. В качестве альтернативы предлагает другую аксиому:
На плоскости через точку, не лежащую на данной прямой, проходит более чем одна прямая, не пересекающая данную.
Разработанная Лобачевским новая геометрия не включает в себя евклидову геометрию, однако евклидова геометрия может быть из неё получена предельным переходом (при стремлении кривизны пространства к нулю). В самой геометрии Лобачевского кривизна отрицательна. Уже в первой публикации Лобачевский детально разработал тригонометрию неевклидова пространства, дифференциальную геометрию (включая вычисление длин, площадей и объёмов) и смежные аналитические вопросы.
Однако научные идеи Лобачевского не были поняты современниками. Его труд «О началах геометрии», представленный в 1832 году советом университета в Академию наук, получил у М. В. Остроградского отрицательную оценку. В иронически-язвительном отзыве на книгу Остроградский откровенно признался, что он ничего в ней не понял, кроме двух интегралов, один из которых, по его мнению, был вычислен неверно (на самом деле ошибся сам Остроградский). Среди других коллег также почти никто Лобачевского не поддержал, росли непонимание и невежественные насмешки.
Венцом травли стал издевательский анонимный пасквиль (подписанный псевдонимом С. С.), появившийся в журнале Ф. Булгарина «Сын отечества» в 1834 году:
Для чего же писать, да ещё и печатать, такие нелепые фантазии? <…> Как можно подумать, чтобы г. Лобачевский, ординарный профессор математики, написал с какой-нибудь серьёзной целью книгу, которая немного бы принесла чести и последнему приходскому учителю? Если не учёность, то по крайней мере здравый смысл должен иметь каждый учитель, а в новой геометрии нередко недостает и сего последнего. <…> Новая Геометрия <…> написана так, что никто из читавших её почти ничего не понял.
Судя по содержанию этой заметки, её писал человек с математическим образованием, вероятнее всего, кто-то из окружения Остроградского (в статье содержатся те же необоснованные критические замечания, что и в отзыве Остроградского). Степень участия в затее самого Остроградского историкам выяснить не удалось. Попытка Лобачевского напечатать в том же журнале ответ на пасквиль была проигнорирована редакцией. Несмотря на осложнения, Лобачевский, уверенный в своей правоте, продолжал работу. В 1835—1838 годах он опубликовал в «Учёных записках» статьи о «воображаемой геометрии», а затем вышла наиболее полная из его работ «Новые начала геометрии с полной теорией параллельных».
Не найдя понимания на Родине, Лобачевский попытался найти единомышленников за рубежом. В 1837 году статья Лобачевского «Воображаемая геометрия» на французском языке (Géométrie imaginaire) появилась в авторитетном берлинском журнале Крелле, а в 1840 году Лобачевский опубликовал на немецком языке небольшую книгу «Геометрические исследования по теории параллельных», где содержится чёткое и систематическое изложение его основных идей. Два экземпляра получил Карл Фридрих Гаусс, «король математиков» той поры. Как много позже выяснилось, Гаусс и сам тайком развивал неевклидову геометрию, однако так и не решился опубликовать что-либо на эту тему, полагая, что научная общественность ещё не готова воспринять столь радикальные идеи. Ознакомившись с результатами Лобачевского, он восторженно отозвался о них, но лишь в своих дневниках и в письмах близким друзьям. Например, в письме астроному Г. Х. Шумахеру (1846) Гаусс так оценил труд Лобачевского:
Вы знаете, что уже 54 года (с 1792 г.) я разделяю те же взгляды (с некоторым развитием их, о котором не хочу здесь упоминать); таким образом, я не нашёл для себя в сочинении Лобачевского ничего фактически нового. Но в развитии предмета автор следовал не по тому пути, по которому шёл я сам; оно выполнено Лобачевским мастерски, в истинно геометрическом духе. Я считаю себя обязанным обратить Ваше внимание на это сочинение, которое, наверное, доставит Вам совершенно исключительное наслаждение.
Гаусс выразил свою симпатию к идеям русского учёного косвенно: он рекомендовал избрать Лобачевского иностранным членом-корреспондентом Гёттингенского королевского научного общества как «одного из превосходнейших математиков русского государства». Гаусс также начал изучать русский язык, чтобы ознакомиться с деталями открытий казанского геометра. Избрание Лобачевского состоялось в 1842 году и стало единственным прижизненным признанием научных заслуг Лобачевского. Однако положения Лобачевского оно не укрепило, ему осталось работать в родном университете ещё четыре года. Его новая статья (решение некоторых проблем анализа) вновь получает резко отрицательный отзыв Остроградского (1842). Как выяснили историки науки, венгерский математик Янош Бойяи независимо от Лобачевского и немного позднее (1832) опубликовал свою версию неевклидовой геометрии. Но и его работы не привлекли внимания современников.
Лобачевский умер непризнанным, не дожив до торжества своих идей всего 10-12 лет. Вскоре ситуация в науке коренным образом изменилась. Большую роль в признании трудов Лобачевского сыграли исследования Э. Бельтрами (1868), Ф. Клейна (1871), А. Пуанкаре (1883) и др. Построенные ими модели доказали, что геометрия Лобачевского непротиворечива в той же мере, что и евклидова геометрия.
Осознание того, что у евклидовой геометрии имеется полноценная альтернатива, произвело огромное впечатление на научный мир и придало импульс другим новаторским идеям в математике и физике. В частности, геометрия Лобачевского оказала решающее влияние на появление римановой геометрии, «Эрлангенской программы» Феликса Клейна и общей теории аксиоматических систем.
В 1892 году в России и в других странах широко отметили 100-летний юбилей Лобачевского. Была учреждена международная премяи имени Н.И. Лобачевского (1895). В 1896 году в Казани открыт памятник учёному.
200-летие Лобачевского отмечалось в 1992 году. Банком России была выпущена памятная монета в серии «Выдающиеся личности России». В 1994 году в городе Козловка (Чувашия), в котором некогда располагалось имение Н. И. Лобачевского (тогда это была деревня Слободка Чебоксарского уезда), состоялось открытие дома-музея Лобачевского.
