В XII веке прежняя глухомань на севере Черниговского княжества превратилась в очень даже оживлённый уголок, ведь именно туда из многократно разорённой Южной Руси устремились массы беженцев, которым была не под силу миграция на северо-восток Руси, там тут же возникли несколько десятков хорошо укреплённых городов, среди которых был и Глухов, которому была суждена очень бурная история.
Хотя места на левом берегу реки Эсмань, на границе Восточного Полесья и Брянских лесов, и считались у русичей безнадёжной глухоманью (по одной из версий, Глухов из-за этого и получил своё название), укреплённые поселения тут существовали ещё во времена неолита, а в 1152 году здесь была построена мощная крепость. Так как Глухов находился на перекрёстке важных торговых князей, то черниговские князья укрепляли его особо тщательно, Глуховская крепость занимала площадь в 2,7 гектара, её деревянные стены имели ломанную замкнутую форму и пять ворот, кроме того, Глухов защищала цепь укреплённых городков. В эпоху междоусобных войн XII-XIII веков Глухов проявил себя как мощная крепость, фактически второй по значению город Черниговского княжества, успешно он пережил и монголо-татарское вторжение 1239 года, оказавшись в числе немногих русских городов, отразивших натиск завоевателей. После монголо-татарского нашествия Чернигов долго лежал в руинах и центр Черниговского княжества постепенно переехал в Глухов, куда перенёс свою кафедру черниговский епископ, но то, что не сделали монголы, сделала чума, в 1353 году Глухов посетила волна пандемии чумы, известной также как "Чёрная смерть", где полютовала как следует, после неё в Глухове вообще не осталось живых и он исчез как таковой на долгое время.
Вновь Глухов начал отстраиваться только после 1503 года, когда он вошёл в состав России, здесь была снова отстроена крепость, правда, поменьше ранее существовавшей. Новый Глухов стал чисто военным городом, предназначенным для обороны южных границ России от поляков и крымских татар, с чем он успешно справлялся. В Смутное время глуховцы присоединились к восстанию Ивана Болотникова, войскам Василия Шуйского с большим трудом удалось взять крепость, но когда на Россию войной пошли поляки, Глухов оказал им отчаянное сопротивление, но был ими взят и по Деулинскому перемирию 1618 года вошёл в состав Речи Посполитой. Получив Глухов, поляки тут же реконструировали его крепость, доведя до прежних размеров, с 1635 года её начали отстраивать в камне, но помогало это полякам мало, во время крестьянско-казачьих восстаний против польского ига Глухов исправно к ним присоединялся, участвовал Глухов и в восстании Богдана Хмельницкого, присоединившись к нему одним из первых, а во время русско-польской войны 1654-1667 годов он выдержал осаду со стороны польских войск, ставшую важным сражением войны, по итогам которой Глухов отошёл к России.
Хотя граница после русско-польской войны 1654-1667 годов и отодвинулась от Глухова, без работы Глуховская крепость не осталась, набеги татар, ногайцев и гайдамаков продолжались с прежней силой, поэтому Глуховская крепость дополнительно укреплялась, её целиком отстроили в камне и на месте прежних башен возвели бастионы, только войны и политические процессы второй половины XVIII века оставили Глуховскую крепость не у дел. В 1802 году в связи с полной утратой прежнего стратегического значения Глуховская крепость была окончательно упразднена, её укрепления были срыты, ровы выровняны, а на память о бурном периоде истории города остались только Киевские крепостные ворота.