Локомотивное депо начинает свою историю ещё с далёкого 1933 года. Тогда, на смену оборотному паровозному депо Хабаровск-1 в десяти километрах от него началось сооружение нового четырехкорпусного паровозного депо. Оборотное депо Хабаровск-1 для тяговых плеч Хабаровск — Вяземская и Хабаровск — Ин располагалось в деревянном сарае с двумя канавами и расположенными рядом с ним небольшими мастерскими и конторой. К депо был приписан парк маневровых паровозов серии Ов.
К началу 1936 года здание депо Хабаровск-2 было сдано в эксплуатацию.
В 1950 году начинается оборудование локомотивов поездной радиосвязью. На первые шесть маневровых паровозов установлены радиостанции.
В связи с закрытием основного паровозного депо Бикин, оборотного депо Губерово 1 марта 1959 года паровозные депо Хабаровск-2 и Ружино начали работать на удлиненных плечах. С марта 1960 г. на Хабаровском отделении были изменены тяговые плечи депо в западном направлении в связи с ликвидацией паровозного депо станции Ин как основного и реорганизацией его в оборотное депо 1-го разряда.
Для обеспечения перевозки грузов до 1964 года эксплуатировались паровозы серии Е производства США. Пассажирское движение осуществлялось паровозами отечественного производства серии П-36.
С началом электрификации восточной части Транссибирской магистрали в 1980 году депо было переведено на электровозную тягу. К этому времени был построен корпус ТО-2 для обслуживания электровозов, в частности, двухсекционных локомотивов серии ВЛ80.
В ходе реформирования железнодорожного транспорта в России депо было разделено на два предприятия по видам деятельности: эксплуатационное депо Хабаровск-2 и ремонтное депо Дальневосточное.
В настоящее время штат эксплуатационного локомотивного депо Хабаровск-2 составляет более 1600 человек. В приписном парке находится более 300 локомотивов, в том числе более двухсот электровозов нового поколения ЭС5К «Ермак» и 82 тепловоза маневрового движения, из них 39 единиц серии ТЭМ18ДМ.
На протяжении многих лет локомотивный комплекс является важнейшим звеном в грузовых и пассажирских перевозках, а депо является решающим на Дальневосточной магистрали.