Самой древней мечетью на территории России и СНГ по праву считается это строение на территории города Дербента. Ее основанием считаются 733-734 года по христианскому исчислению. Джума мечеть или мечеть сахабов, неоднократно перестраивалась. Над входом, на-пример, сохранилась надпись о том, что в 1368-1369 гг. она была восстановлена после землетрясения Таджудином из Баку.
Строительство медресе при мечети началось лишь в 1474-1475 гг. Однако его расширение и формирова-ние всего комплекса было завершено только в 1815г. В 1930-х годах мечеть была закрыта в ходе атеистической кампании, развернутой по всему СССР.
С 1938 по 1943 годы была перестроена в городскую тюрьму.
В 1943 году постановлением из Москвы мечеть была возвращена духовенству города с правом дальнейшего использования её по прямому предназначению.