Музей был открыт в 1912 г.
Здание было построено специально для Музея изящных искусств им. императора Александра III при Московском университете. Новый музей должен был представлять собой наглядное пособие для изучения архитектуры, скульптуры и прочих искусств Европы и Востока.
Заказ на строительство получил молодой архитектор Р. Клейн. Музей строился по последнему слову инженерной мысли, на средства меценатов. Средства на строительство пожертвовали члены царской фамилии, Морозовы, Юсуповы, Поляковы, Солдатенковы и др. Экспонаты также приобретались на деньги жертвователей, однако главным дарителем на протяжении всех лет строительства, был крупный промышленник и благотворитель Ю. Нечаев-Мальцев.
Стеклянная крыша обеспечивала достаточно освещения в залах второго этажа. Здание было оборудовано электричеством и системой вентиляции.