Изначально Вавилон был просто городом, коих в древнем Двуречье было полным-полно. Местные жители поклонялись богам, орошали земли и занимались земледелием. Каждый город являлся отдельным городом-государством, со своим богом-покровителем, вавилонским покровителем был Мардук.
Вавилон превратился в центр мощного царства в начале II тысячелетия до н.э., когда вождь одного из аморейских племен Сумуабум закрепился в городе, и начал войны с соседями. Его потомки расширяли пределы царства, укрепляли и развивали город. Апогеем развития города и царства той эпохи стало царствование царя Хаммурапи, он не только вёл успешные войны, но и заботился о внутреннем порядке и справедливости. В период его правления были созданы знаменитые законы Хаммурапи, которые можно считать эталоном справедливости по меркам того времени.
Государство было очень развитым, строились каналы, храмы и города. Жрецы отправляли обряды и занимались изучением звезд. Именно в Вавилоне додумались до деления окружности на 360 градусов, деления часа на 60 минут, минуты на 60 секунд. В древнем Вавилоне появились астрономия и астрология, в основном они использовались жрецами для предсказаний.
Наследники Хаммурапи не смогли удержать завоевания, произошло несколько вторжений из Ассирии и с территории современного Ирана. Однако несмотря на это Вавилон оставался большим и богатым городом. Эламиты, Касситы и др. завоеватели сменяли друг друга, а Вавилон продолжал быть таким как он был. Однако в начале I тысячелетия до н.э. и для Вавилона наступили темные времена, северным соседом стала грозная и сильная Ассирийская держава. В тот момент власть в городе принадлежала узкому слою жрецов и "олигархов", которые не заботились о внутреннем развитии. Вавилонию разоряли кочевники - арамеи и халдеи. В таких условиях верхушка решилась на союз и фактически подчинение Ассирии на определенных условиях внутренней самостоятельности. Так продолжалось до конца VIII века до н.э., когда царь Ассирии Синаххериб решил ограничить свободу Вавилонии, в городе вспыхнуло восстание, которое Синаххериб подавил очень жестоко, после он решил сровнять город с землей. Крепостные стены, величественные храмы и дворцы, жилые дома, всё было разрушено до основания.
Преемники Синаххериба решили восстановить город и отстроить его с большим великолепием. Город вновь стал центром культуры и торговли. В то же время Ассирия стала слабеть и ассирийский наместник города Набопаласар, по происхождению халдей, решил стать независимым царем Вавилона. В союзе с Мидией он смог уничтожить Ассирию. Преемники Набопаласара стали заниматься улучшением города и государства. Так, царем Навуходоносором была завоевана Иудея, взят штурмом Иерусалим, евреи были уведены в плен, а Первый Храм разрушен. Навуходоносор прославился и созданием одного из чудес света - висячих садов Семирамиды.
В том же веке происходило усиление персов и мидийцев, объединенное государство двух народов решило захватить Вавилонское государство. Кир Великий смог захватить город довольно быстро и положить конец Вавилонии. Достоверно не известно, как такой сильноукрепленный город был взят быстро, распространено предание, что Кир распорядился через канал отвести русло Евфрата, и армия вошла в город через обмелевшую часть реки, в Библии же говорится о таинственной надписи на пире царевича Валтасара, которая пророком Даниилом была истолкована как предвестие скорой быстрой гибели Валтасара и его царства.
После персидского завоевания город долгое время оставался центром торговли и административной власти, но со временем стал терять значение, в начале нашей эры от былого величия города оставались лишь развалины.
В Авраамических религиях Вавилон, особенно в его поздний период показан прежде всего как богатый, но при этом совершенно безнравственный и гордый город. Об этом свидетельствует история о Вавилонской башне, а также увиденное евреями в вавилонском плену. Безнравственность города подтверждается поздними археологическими находками, в частности в них говорится о высоком уровне преступности, большом социальном расслоении. Позднее данный образ Вавилона применяется уже к другим крупным городам - например Риму в бытность столицей Римской Империи.