В сентябре 1839 года состоялось торжественное открытие железнодорожной линии Амстердам-Харлем – первой части старейшей железной дороги в Нидерландах, соединившей к 1847 году Амстердам и Роттердам.
Первая, весьма скромных размеров и построенная из дерева, станция Харлема располагалась на Oude Weg неподалеку от знаменитых Западных ворот за пределами города. Ширина колеи первой нидерландской железной дороги составляла 1945 мм. Но уже к 1865 году она была сужена до 1435 мм, в соответствии с принятой к тому времени стандартной шириной европейской колеи (впервые такая ширина была предложена инженером Джорджем Стефенсеном при строительстве железнодорожной линии Ливерпуль-Манчестер, а сегодня примерно у 60% железных дорог в мире ширина колеи равна 1435 мм).
С самого начала железная дорога в Нидерландах стала очень популярной, основательно потеснив внутренний водный транспорт, курсирующий по каналам-треквартам. Неудивительно, что станция на Oude Weg оказалась слишком мала и не справлялась с большим пассажиропотоком, в связи с чем, было принято решение о строительстве новой станции в северной части города, где, собственно, центральная станция Харлема и находится сегодня. Новая станция была построена уже в 1842 году, а на Oude Weg в 1844 году была открыта железнодорожная мастерская, ставшая со временем одной из крупнейших в Нидерландах.
Впечатляющее же здание железнодорожного вокзала в Харлеме в стиле модерн, которые вы видите сегодня, было построено в 1906-1908 годах по проекту голландского архитектора Дирка Маргаданта. На сегодняшний день эта станция - единственная железнодорожная станция в Нидерландах построенная в стиле модерн и одно из самых интересных сооружений Харлема (здание железнодорожного вокзала в Харлеме имеет статус национального памятника).
В 2004 году на железнодорожном вокзале Харлема были сняты некоторые сцена для фильма Стивена Содерберга «Двенадцать друзей Оушена», а уже в 2005 году здесь снимали сцены для «Черной книги» Пола Верховена.