Данная часовня возникла на территории Ваганьковского кладбища в память о первом храме Иоанна Милостивого, принадлежавшем ваганам и снесенном в XIX веке. Решение о появлении ротонды было продиктовано отчасти тем, что на участке, где ранее находилась церковь нельзя хоронить покойников; отчасти поговоркой «свято место пусто не бывает».