Самый первый вокзал начал свою работу в апреле 1916 года после сдачи в эксплуатацию участка Кандалакша – Мурман при строительстве Мурманской железной дороги. Это было небольшое здание, обшитое узкими досками. Осенью 1922 года оно сгорело, и тогда было принято решение о строительстве нового.
Новый вокзал был построен из бревен за три месяца. По архивным записям, там было место для приёма багажа и буфета, а в его правой части находилась служба движения. Над вывеской "Мурманск" располагался небольшой портрет Владимира Ленина, серп и молот со звездой и часы с круглым циферблатом. На территории станции был колокол, и площадка со скамейками.
В Мурманске поезда ходили только дважды в неделю, и каждый раз пользовались большим успехом у местных жителей. Вокзал стал площадкой, где люди собирались чтобы получить и обсудить новости из большого мира. Прибывавший вагон-синематограф, крутивший фильмы, собирал особенно много мурманчан на территории вокзала, а сотрудники специального агропоезда, пропагандировавшего огородничество и животноводство, раздавали семена для посевов и листовки на сельскохозяйственные темы.
По мере увеличения пассажиропотока и грузового движения, появилась необходимость возвести более новое и просторное здание. Так появился современный вокзал Мурманска — он был открыт в 1954 году.
