Строительство Пенсильванского вокзала заняло пять лет, и в 1910 году он заработал. Огромное здание занимало два городских квартала, и было конечной точкой железнодорожного сообщения с остальной территорией США. В народе его называют "Пенн-стейшн".
Вокзал стал настоящей гордостью Нью-Йорка: ворота, ведущие в здание, напоминали Бранденбургские в Берлине, а зал ожидания был оформлен в стиле терм Каракаллы. Через высокие стеклянные потолки падали лучи солнца, фасад и залы украшали величественные колонны. Вокзал быстро стал визитной карточкой города и одной из главных достопримечательностей Манхэттена.
Стоимость постройки вокзала тогда составила 114 миллионов долларов (примерно $2,8 млрд в наши дни).
Платформы вокзала обслуживали 21 железнодорожный путь. Расчёт был на то, что сюда будет приходить до 144 поездов в час - уже в первые же годы работы Пенн-стейшн принимал до тысячи составов в день! Пик спроса пришёлся на период Второй Мировой, когда вокзал обслуживал до 100 миллионов пассажиров за год. В 1950-е всё больше людей предпочитали поездам дальнего следования самолёты или автомобили, в связи с чем падали доходы. Содержать столь огромное здание было штукой недешёвой.
В 1963 году вокзал был снесён, а на его месте появился довольно заурядный офисный центр. Этот снос вызвал большой скандал, оставивший заметный след в истории.
На его месте был возведён спортивно-развлекательный комплекс Мэдисон-сквер-гарден.
Сегодня этот комплекс славится своим стадионом, где играют в баскетбол и хоккей, а так же концертным залом на 5,000 мест.
Строители сохранили подземную часть вокзала, с платформами и путями, а так же оборудовали в подвале новые территории ожидания пассажиров. Их единственный плюс над роскошными залами предыдущего вокзала в том, что тут работает кондиционирование. Однако, вместо великолепных сводов, пассажиры получили низкие потолки с галогенными лампами.