Московская Хоральная Синагога была построена недалеко от казарм солдат-ветеранов еврейского происхождения, которым разрешили селиться в городе, начиная с 1830 года. Еврейская община, возглавляемая тогда Лазарем Поляковым, купила участок в бывшей гончарной слободе. После некоторых разногласий, община одобрила проект Симона Эйбушитца, еврея, рождённого в Австрии, перешедшего в лютеранство и обучавшегося в Москве. За образец была взята синагога в Варшаве, купольная неоклассическая базилика с коринфским портиком. Однако, Синод приостановил возведение синагоги, ссылаясь на то, что она оскорбляет чувства православных. Строительство было продолжено только после того, как купола были демонтированы, а изображение скрижалей завета было убрано с фасада. Окончание работ в 1891 году совпало с массовым изгнанием евреев из Москвы. Тогда власти закрыли синагогу и потребовали, чтобы она была переделана в благотворительное учреждение, что и было сделано: сначала в ней открыли ремесленное училище-приют, а затем религиозную начальную школу.
Синагога открылась вновь лишь в 1905 году, когда после первой русской революции появился Апрельский манифест царского правительства о свободе вероисповеданий, и ее интерьеры были отреставрированы прославленным русско-немецким архитектором Романом (Робертом Юлиусум) Кляйном. В советские времена, несмотря на попытки закрыть ее в 1923 и 1930 годах, синагога продолжала работать как официальный молитвенный дом. В 2001 Российский Еврейский Конгресс, Еврейская община Москвы и «Джойнт» (Американский еврейский объединённый распределительный комитет) начали реконструкцию здания.
Было решено покрасить синагогу, построенную в палладианском стиле, в желто-белые цвета и реконструировать купола, чтобы придать ей прежнее величие. Сегодня, благодаря превосходной акустике, в синагоге так же проводят концерты.