С восшествием на престол князя Ярослава Мудрого в Киеве развернулось масштабное строительство, новый князь твердо решил превратить свою столицу в подобие Константинополя, главного города обитаемого мира, а раз так, то и главный въезд в него должен был быть соответствующим, подобным Золотым воротам Константинополя и в результате Киев обзавелся своими Золотыми воротами, ставшими на несколько сотен лет образцом для подражания у русских зодчих.
Масштабное строительство оборонительных сооружений в Киеве, получивших название "Города Ярослава" началось сразу по приходу Ярослава Мудрого к власти, при этом в цельно деревянных укреплениях появились и первые каменные элементы наподобие Софийских ворот, но на строительство парадного въезда в Киев, который по роскоши должен был затмить Золотые ворота Константинополя, Ярослав Мудрый решился только в 1037 году после того, как у стен Киева одержал окончательную победу над печенегами. Будущий парадный въезд в Киев был построен в технике смешанной кладки (слои плоского кирпича плинфы чередуются со слоями камня), известной по архитектурным памятникам Византии, в виде квадратной башни с проездом шириной 7,5 метров и надвратной церковью Благовещения, богато украшенной фресками и мозаикой. Новые парадные ворота закрепили за Киевом статус столицы могучего христианского государства и вызвали множество подражаний, самое известное из которых находится во Владимире.
Киевские Золотые ворота были не только парадным въездом в Киев, участвовавший во всех важных государственных церемониях, но и первоклассной крепостью, не раз успешно отражавшей натиск врага, в том числе и монгол о время осады ими Киева в 1240 году, когда они не смогли их взять, прорвав оборону города у Лядских ворот, после чего, овладев Киевом, они в честь своей победы разрушили Золотые ворота, но и в полуразрушенном виде и лишившиеся соседних укреплений они сохраняли своё значение главных ворот Киева, в которые въезжали все триумфаторы и с участием которых проводились все мало-мальски значимые церемонии. Со временем от Золотых ворот остались одни руины, но и они выглядели очень внушительно.
В разрушенном виде Золотые ворота простояли до 1970-х годов, когда вокруг них были проведены археологические раскопки, в ходе которых был восстановлен их внешний вид и вокруг них был разбит сквер, а в 1982 году в нём была возведена точная копия Золотых ворот с использованием их остатков, в которой разместился посвящённый им музей. Конечно, реконструкция была выполнена далеко от идеала, с временем деревянные и бетонные конструкции обветшали, но и в таком виде главные ворота Киева стали значимой его достопримечательностью.