Московские войска численностью около 40 тыс. вышли из Москвы 18 июня 1514 года. После нескольких дней похода, 15 июля, они встали под Смоленском, осадили его и начали подготовку к штурму: вокруг крепости был построен частокол, а напротив ворот были построены укрепления, называемые рогатками, служившие для предотвращения вылазок городского экипажа. Подготовка была завершена, и 29 июля войска приступили к артиллерийскому обстрелу. Московские военные располагали ок. 140, а по другим источникам 300 орудий под командованием Пушкаря Стефана, нанесших серьезный ущерб городу, обороной которого командовал Георгий Соллохов.
Летопись так описывает последний день осады:
Прибыл сам великий князь со своими братьями под город Смоленск с многочисленными силами и большой артиллерией. Повелел бить град со всех сторон и штурмы великие творить без устали, и огненными отделами в город бить, так что от шума и крика, земля дрожала, а люди друг друга не видели, и весь город в огне и дыму, и казалось, что он завис. И страх Великий пал на горожан, и стали они из города кричать, чтобы великий государь сжалился, меч свой оставил, и приказал прекратить бой, и они хотят биться лбом перед правителем и город отдать.
Смоленские военные предложили начать переговорный процесс, но просьба была отклонена Василием III, который потребовал немедленной капитуляции. По настоянию горожан литовская армия сдалась 31 июля и 1 августа Василий III торжественно въехал в город. Смоленский православный епископ Варсонофий провел молебен, во время которого горожане присягнули на верность московскому государю. Смоленский воевода Георгий Соловьев отказался от присяги и был отпущен в Литву, где его казнили за сдачу крепости.
После победы в битве при Орше литовские войска предприняли попытку отбить Смоленск, которая, однако, потерпела неудачу, и в 1522 году между Московским княжеством и Великим Княжеством Литовским был подписан мир, по которому Смоленск перешел во владение Москвы. После битвы Смоленск оставался под властью русских царей почти 100 лет, а затем в 1618 году было возвращено Княжеству Литовскому, но в 1654 году он окончательно стал Российсим за исключением двух периодов: осени 1812 года. когда он был захвачен французами и в 1941-1943 годах, когда был захвачен Третьим Рейхом.
В честь памяти о взятии Смоленска Василий III учредил московский Новодевичий монастырь на том месте, где русские войска собирались перед походом.