Музей МЖД расположен в большом здании рядом с Павелецким вокзалом. Начал он свою историю еще в 1937-м году. Филиал Центрального музея В. И. Ленина "Траурный поезд В. И. Ленина" получил своё название из-за расположенного в нём траурного поезда (паровоз У127 и багажный вагон № 1691), который в 1924 году доставил тело Ленина в Москву. 23 января 1924 года траурный поезд привёз в Москву тело Ленина. В память о том событии в 1937 году был отреставрирован паровоз У127, который вёл поезд. Паровоз был установлен в одном из тупиков близ Павелецкого вокзала и обнесён цепью. Однако вскоре стало очевидно, что из-за нахождения под открытым небом официальный паровоз Ленина (это звание ему было присвоено в 1923 году после ремонта) со временем приходит в негодность. Тогда вскоре после окончания Великой Отечественной войны, несмотря на тяжёлое положение в стране, на государственном уровне принимается решение о строительстве специального павильона возле Павелецкого вокзала. В 1948 году строительство было