К концу XI века напряженность между мусульманами и христианами усилилась. Священная Римская империя разделилась на две части: Константинополь на востоке и Рим на западе стали соответствующими столицами.
До Европы дошли новости о том, что правящие в Иерусалиме мусульмане преследуют местных христиан за их веру и оскверняют святыни.
Одновременно началось турецкое вторжение в Анатолию, нынешнюю Турцию, что вызвало страх у восточных христиан, особенно у императора в Константинополе.
Иерусалим вновь стал центром мировых событий. Папа Урбан II обратился к европейским народам, призывая благородных франков прийти на помощь своим единоверцам. Он подчеркнул, что в походе, возглавляемом самим Господом, должны участвовать и богатые, и бедные, так как на то есть воля Божья.
В 1095 году нашей эры началась эпоха крестовых походов. Папа Римский провозгласил крестовый поход и призвал христианских королей добровольно участвовать в Священной войне, пообещав им Царство Небесное и экономические стимулы. В 1096 году 60-тысячное войско в сопровождении жен, детей и подневольных крестьян выступило из Европы в сторону Иерусалима. В следующем году к первоначальной армии присоединились еще пять армий общей численностью 100-тысяч человек, а также многочисленное духовенство.
Летописец XI века Раймунд Ажильский говорит, что, когда крестоносцы впервые увидели Иерусалим, их восторг был настолько велик, что они упали на землю со слезами.
Бой был кровопролитным. Мусульмане отступили к Храмовой горе, ставшей их последним оплотом; Мечеть Аль-Акса держалась до последнего человека. Христиане вспоминали, что после битвы солдаты, бродившие по улицам Иерусалима, выглядели как мясники: их одежда была полностью залита кровью, а выражения лиц были дикими. Каждый мусульманин в мечети Аль-Акса был убит. Не пощадили ни женщин, ни детей.
Крестоносцы захватили большую часть города. Командующим они избрали Готфрида Бульонского. Он отказался принять титул короля и предпочел называть себя «Защитником Гроба Господня». Готфри был одним из первых крестоносцев, вошедших в город. В разгар битвы он снял доспехи и босиком пошел по городу, чтобы помолиться у Гроба Господня. На освобожденной земле крестоносцы начали строить христианские церкви. Сначала возле мест паломничества строились новые храмы, затем восстанавливались старые. Они превратили Купол Скалы в христианский храм.
Крестоносцы могли разрушить Купол Скалы, мусульманскую святыню, но они этого не сделали, поскольку здесь находился Храм Соломона и это место было священным. Они украсили его мозаикой и фресками.