В 1840-е годы в Клину в районе нынешней Скорбященской церкви появилось городское кладбище. Строительство каменной церкви на кладбище связано с деятельностью настоятеля клинского Троицкого собора протоиерея Сергия Модестова.
Сергий Модестов был назначен служить в соборную церковь города Клин в 1857 году. Он только закончил Московскую духовную академию, которая в тот период славилась многими выдающимися профессорами. С одним из них священник Модестов впоследствии даже оказался связан родственными узами: его дочь вышла замуж за известного историка Петра Казанского.
Женитьба самого священника Модестова была довольно необычной. Московский митрополит Филарет Дроздов торопил молодого выпускника академии с принятием священного сана, а для этого нужно было жениться. Однако невеста Модестова заболела и долго не могла поправиться, из-за чего венчание все время откладывалось. Но митрополит требовал немедленно рукополагаться и отправляться в Клин, где скончался соборный протоиерей. Модестову ничего не оставалось, как поспешно взять другую невесту, которая и стала его женой.
Священник Модестов служил в Троицком соборе Клина с 1857 по 1873 годы - до своего перевода в Москву. Это время было очень плодотворным в церковной истории города. В 1861 году по инициативе Модестова была построена церковь иконы Божией Матери "Всех Скорбящих Радость" на кладбище, или сокращенно - Скорбященская церковь, а также в 1864 году - домой храм святителя Тихона Задонского при городской тюрьме.
Скорбященскую церковь воздвигли в псевдорусском стиле на основе одного из типовых проектов Константина Тона. Отдельного причта до революции в церкви не было. Богослужения совершались редко, а чаще в храме отпевали усопших и служили панихиды священники из Троицкого собора.
Кроме двух новых храмов - на кладбище и при тюрьме - стараниями священника Модестова при железнодорожном вокзале в 1866 году была поставлена часовня Александр Невского - небесного покровителя царя Александра II. Часовня строилась в память о спасении царя во время покушения на него народовольца Каракозова в Санкт-Петербурге. В тот день Александра II спас костромской крестьянин Осип Комиссаров. Он стоял в толпе у Летнего сада и заметил подозрительного человека:
Сам не знаю что, но сердце мое как-то особенно забилось, когда я увидел этого человека… Вдруг я вижу, что этот человек вынул и целит пистолет… Я невольно с силой толкнул его руку к верху. За тем ничего не помню, меня как самого отуманило и, очнувшись, я вижу только, что меня целует какой-то генерал.
Каракозова схватили, а Комиссарова царь пожаловал потомственным дворянством. На месте покушения в Летнем саду была построена часовня в честь Александра Невского, а потом такие часовни стали строить и в других городах. В Клину построили даже две Александровские часовни: на площади у Троицкого собора и около вокзала.
В 1880-е годы из зала ожидания вокзала в часовню Александра Невского перенесли икону Божией Матери, и после этого ее стали называть в народе "Богородицкой", а икону - "Клинской".
Считается, что Клинскую икону Божией Матери написал неизвестный странствующий монах за одну ночь в зале ожидания вокзала Клина. В ту ночь стало известно о крушении царского поезда, в котором ехал Александр III с семьей. Это произошло в октябре 1888 года под Харьковом по пути из Крыма в Петербург. Десять из пятнадцати вагонов обрушились с высокой насыпи. Вагон, где находился сам Александр III, опрокинулся и только чудом никто из царской семьи тогда не пострадал. Существовала версия, что крушение царского поезда было также подстроено революционерами.
В 1929 году Богородицкую часовню на вокзале закрыли и переделали в билетную кассу. Почитаемую Клинскую икону удалось спасти: Михаил Кармалеев перенес ее в кладбищенскую Скорбященскую церковь. В советские годы это был единственный храм, который действовал в Клину. Клинская икона и теперь находится в иконостасе Скорбященской церкви.
В советские годы почти вся территория кладбища была застроена: на его месте появились жилые дома, автостоянка и рынок. Но у церкви сохранилось надгробие отца известного композитора и лидера "Могучей кучки" Милия Балакирева - чиновника Алексея Константиновича Балакирева. В последний период своей жизни Алексей Балакирев служил в клинском казначействе. Он скончался в Клину и был погребен на городском кладбище около Скорбященской церкви в 1869 году.
До войны все церкви Клина, в том числе и Троицкий собор были закрыты. Действующей, как уже говорилось, оставалась только одна Скорбященская церковь, которая до революции даже и приходской не считалась. В 1940-х годах в Скорбященской церкви служил священник Александр Смирнов. Он застал оккупацию города немцами в ноябре 1941 года. Вот как он описывал эти дни:
Немцы несколько раз врывались в храм, ломали замки, грабительски брали свечи, керосин, масло, бросали поминанья, врывались в алтарь в шапках, наставляли револьверы на уборщицу... Немецкий солдат прямо на улице снял с меня валеные сапоги, в страшном испуге я вбежал в одних носках в квартиру...
Уже после войны в 1947 году в Скорбященской церкви был освящен небольшой придел святителя Тихона Задонского. В честь этого же святого назывался закрытый храм при клинском тюремном замке. Из закрытого храма удалось спасти храмовый образ святителя Тихона, который также поместили в Скорбященской церкви.
Бывшую Богородицкую часовню, служившую кассой, в 1970-е годы снесли. В 2021 году здание часовни было воссоздано на прежнем месте. Также был восстановлен и главный Троицкий собор города, к которому когда-то была приписана Скорбященская церковь на бывшем городском кладбище.