Историко-краеведческий музей «Крепость» располагается в сохранившихся строениях Кисловодской крепости, которая является памятником истории и архитектуры, и с которой началась жизнь курорта. Это единственная русская крепость, сохранившаяся на Северном Кавказе.
Первое земляное укрепление на месте крепости появилось в 1807 г., а через недолгое время здесь была возведена небольшая каменная крепость. Большинство крепостей этого края после Кавказских войн были или снесены, или разобраны. Осталась только эта, и то - не полностью. Простояла крепость 60 лет. До сегодняшних дней от нее сохранились ворота, угловая башня, участок крепостной стены с бойницами и казармы. После революционных времен сооружение принадлежало санаторию «Крепость» - одному из самых первых советских санаториев.
Историко-краеведческий музей «Крепость» был основан 9 мая 1965 года в статусе народного. В 1971 г. он был объявлен филиалом Ставропольского краеведческого музея. Самостоятельным муниципальным музеем он стал в 1998 г. В 2005 г. музей перешел в краевую собственность. Сегодня в фондах музея насчитывается свыше 60 тыс. экспонатов. Гордостью музея являются его коллекции: археологическая, этнографическая и коллекция кисловодского фарфора.
Экспозиция музея рассказывает об отдельных исторических этапах жизни народов Северного Кавказа, роли казачества в становлении города, развитии Кисловодска как курорта, поиске и изучении минеральных источников. Огромный раздел посвящен городу Кисловодску как крупнейшей госпитальной базе во время Великой Отечественной войны. В музее также действует экспозиция под открытым небом, так называемый лапидарий. Одним из отделов музея является отдел истории космонавтики, посвященный советскому учёному и изобретателю Ф.А. Цандеру.
Перед кисловодским историко-краеведческим музеем «Крепость» можно увидеть памятный знак, который представляет собой каменную глыбу доломита, установленную в честь основания курортного города Кисловодск 25 (13) июня 1803 г.