Барклай упорно продолжал держаться своего стратегического плана. В своих донесениях он писал Александру I:
«Нужно насколько возможно сохранять армию и отнюдь не подвергать её опасности поражения, действуя, таким образом, совершенно вразрез с желанием противника, который сосредоточил все свои силы для решительной битвы"
По замыслу нашего генерала, Смоленское сражение ни в коем случае не должно было стать генеральной битвой, чего так желал Наполеон, а лишь арьергардным боем по типу боя при Красном, но только большего размера. Главное - задержать неприятеля ещё на 2-3 дня, дав возможность 1 -й и 2-й Западным армиям снова соединиться за Смоленском на Московской дороге.
После боя под Красным стало понятно, что с юга на Смоленск надвигается не передовой отряд и даже не группа корпусов, а вся армия Наполеона. Из русских войск ближе всех к Смоленску в тот момент был корпус генерала Н.Н. Раевского вместе с остатками дивизии Неверовского (всего 15 тысяч человек при 76 пушках). Они спешно подтянулись к городу под защиту стен и башен старинного Смоленского кремля. К 3 (15) августа до Смоленска добрались ещё 12 тысяч ополченцев-ратников.
Сражение началось 4 (16) августа в семь часов утра. Маршал Ней рассчитывал на лёгкую победу: его разведка донесла, что в городе всего один русский пехотный корпус с малым числом пушек да какие-то бородатые мужики с топорами и вилами. Атаку начала кавалерия. Ей удалось выбить русских из городского предместья, но подошедшая за конницей пехота была остановлена у стен кремля. Дважды бросал Ней своих гренадеров на штурм стен, и оба раза французы откатывались назад.
К 9 часам утра на поле боя прибыл Наполеон. Он сразу понял, что взять Смоленск с ходу не удастся, и приказал подтянуть артиллерию. В стену кремля полетели ядра из 150 орудий. Но построенные из камня на специальном растворе прочные стены выдержали этот ураганный огонь - ни одна брешь не была пробита.
Вечером 4 (16) августа Ней снова повёл в атаку свои полки, но и эта попытка взять кремль была отбита. К этому времени напротив Смоленска на правом, не занятом французами, берегу Днепра собралась вся 2-я Западная армия. Ночью туда же прибыла и 1-я Западная армия. Выигранные под Красным сутки и два дня в Смоленске позволили двум русским армиям вновь соединиться. Теперь 180-тысячной «великой армии» Наполеона у Смоленска противостояло 110 тысяч русских войск.
Наполеон не мешал этому соединению - он ждал генерального сражения. О настоящем «деле» мечтало и большинство русских солдат. Мало кто понимал смысл действий Барклая де Толли, многие даже считали его изменником, который нарочно «ведёт французов в Москву». Дошло до того, что Багратион начал открыто не выполнять приказы военного министра и командующего 1-й Западной армией, а начальник штаба 1-й Западной армии генерал Ермолов прямо писал Александру I:
к Барклаю штабные офицеры имеют «мало доверенности», а «войска же и совсем не имеют».
Каким же надо было обладать мужеством, чтобы в такой обстановке пойти наперекор почти всей армии и отказаться от генерального сражения у Смоленска?! Но именно это и сделал Барклай де Толли в ночь с 4 (16) на 5 (17) августа. Он решительно запретил Багратиону ввязываться в бой и приказал немедленно отступать на восток по пока ещё свободной Московской дороге.
Наполеон намеревался втянуть российские армии в генеральное сражение под Смоленском, поэтому принял их передвижение за отвлекающий манёвр, а когда понял, в чём дело, было уже поздно. Русские снова уходили. Но Смоленск всё ещё не был взят. И тогда Наполеон приказал стереть город с лица земли. В три часа дня 5 (17) августа 300 пушек одновременно ударили по Смоленску.
Запылали целые улицы. Французы пошли на штурм. Непрерывные атаки продолжались до семи часов вечера. Это была самая кровопролитная для французов битва со времени их вторжения в Россию - они потеряли только убитыми около 14 тысяч человек (русские - около 10 тысяч, в основном ополченцев). Поздним вечером Барклай отдал приказ защитникам Смоленска покинуть горящий город.
Утром 6 (18) августа в разрушенный Смоленск въехал Наполеон. Вот как описывал этот момент французский генерал и писатель Ф.П. Сегюр:
«Спектакль без зрителей, победа почти без плодов, кровавая слава, дым, который окружал нас, был, казалось, единственным нашим приобретением».
Последним смоленским сражением стал бой у Валутиной горы (25 км от Смоленска по Московской дороге) 7 (19) августа. Здесь на пути наступавшего корпуса маршала Нея встал трёхтысячный отряд под командованием генерала Павла Алексеевича Тучкова.
Несколько часов он сдерживал натиск превосходящих сил противника. На подмогу Тучкову подошли сначала два гренадерских полка, а потом целый кавалерийский корпус Орлова-Денисова. Новый бой длился четыре часа. Французы потеряли убитыми восемь тысяч человек, русские - шесть тысяч. Сам Тучков был тяжело ранен и попал в плен.
Смоленское сражение имело далеко идущие последствия. Хотя русская армия вновь отступила, она нанесла противнику тяжёлый урон. Сражение за Смоленск выявило новую серьёзную силу - русское народное ополчение. Героизм и мужество смолян обещали сотни новых испытаний для французов. Самым грозным из этих испытаний стала Москва.