В соответствии с историческими данными, Михаил Юрьевич Лермонтов проживал на территории Гусар в 1825-1826 годах. Здесь же он написал такие свои знаменитые произведения, как «Кавказский пленник», а также «Ашуг Гериб: тюркская сказка».
На территории Гусар Лермонтов остановился у своего друга (по некоторым источникам родственника), который был военным врачом, у подполковника Александра Александровича Маршева. Одноэтажный дом, где проживали обое, сохранился до сих пор. Он находится на улице им. Фахраддина Мусаева (бывшая Дворянская улица).
В память о пребывании Лермонтова в городе Гусар возле дома установлена белоснежная стела, на которой изображен барельеф поэта, а также мемориальная доска. На доске написаны его строки: «Приветствую тебя, Кавказ седой! Твоим горам я путник не чужой…». «Как я любил, Кавказ мой величавый, Твоих сынов воинственные нравы…».