Это одна из немногих улиц, сохранившая свое дореволюционное название. Она пересекает город с запада на восток и является важной транспортной магистралью города. Сохранились до наших дней на Кавказской и исторические здания, рассказывающие о прошлом нашего города. Например, это часть кирпичной пожарной каланчи, которую построили в 1937 году на месте старой пожарной башни. Каланчу на улице Кавказской возвели тогда по необходимости. Со старой каланчи пожарный ударял 12 раз «в звон», возвещая жителей не только о полуночи, но и о том, что скоро по всей станице погаснет электричество. Во все времена, почти ежедневно, и в станице, и в городе часто случались пожары. В советскую эпоху, до войны, длительное время водовозом был старик Гордиенко, подвозивший на лошади к месту пожара бочку с 250 литрами воды. За пожарной каланчой, где дома выходили на улицу Северную, жили колесники Саморядовы. Возле кладбища, где ныне располагается центральный городской колхозный рынок, стояли амбары, куда казаки с