В 1875 г. участок, на котором находится нынешний чайный домик, выкупил Сергей Васильевич Перлов, купец, предки которого одними из первых стали продавать чай в Москве. В 1890 г. он решил основать свою фирму отдельно от брата и построить на этом месте торговую лавку.
В 1895 году Перлов узнал о приезде в Москву чрезвычайного посла и канцлера Китайской империи Ли Хунчжана. Перлов решил воспользоваться моментом и заказал у архитектора Карла Гиппиуса проект дома в восточном стиле — чтобы привлечь внимание такого высокопоставленного гостя и заключить эксклюзивные контракты на поставку чая.
К сожалению для Сергея Васильевича, Ли Хунчжан обошёл вниманием этот домик и посетил имение его брата, Семёна, который тоже занимался продажей чая — но для более широких слоев населения. Однако сами горожане по достоинству архитектурные качества проекта Гиппиуса — а в самом чайном домике всегда можно было найти даже дефицитные сорта чая.