22 июня 1941 года маршал Ворошилов вошел в кабинет Сталина в 8 утра, когда нападение Германии стало очевидным фактом, хотя, конечно, машстабы трагедии пока никто не осозновал. 21 числа он покинул этот кабинет в пол двенадцатого ночи, таким образом отсутствовал менее 10 часов. В тот трагический день он посещал Сталина дважды и в последующие сутки проводил у него многие часы, принимая участие в обсуждении и принятии всех важнейших решений. 23 числа Ворошилов вошел в состав Ставки.
Когда немцы взяли Минск и стало ясно, что Западный фронт развалился, Сталин отправил в Белоруссию Ворошилова, который взял с собой маршала Шапошникова. Позднее Клим вспоминал:
"Моя поездка явилась кратковременной — с 27 июня по 1 июля 1941 г., — но она была настолько тяжелой и напряженной, что стоила мне, по всей вероятности, многих лет жизни".
Главной задачей Ворошилова было разобраться в ситуации на месте и понять, что случилось и почему командующий фронтом Павлов развалил оборону на московском направлении и за несколько дней сдал Минск и половину республики противнику.
Одновременно вместе с маршалом Тимошенко, который 2 июля сменил пропавшего генерала Павлова на посту командующего Западным фронтом, он как мог восстанавливал управление войсками и организовывал оборону по реке Березина. Работавший вместе с ним Шапошников предложил создать оборонительный рубеж по берегу Днепра. Именно на этом рубеже удалосьсразу же остановить продвижение вермахта, который увяз в Могилевском сражении почти на весь июль.
Одновременно занимаясь расследованием действий Палова и его штаба, 29 июня Ворошилов издал приказ об аресте генерала. Однако сразу выполнить его не смогли по той причине, что никто не знал, где находится Павлов и его люди. За время пребывания в Могилеве Ворошилов так с ним и не встретился.
Генерал Павлов был арестован только 4 июля в поселке Довск под Рогачевым в 80 км от Гомеля. К этому времени Ворошилов уже несколько дней был в Москве. По результатом доклада маршала Сталину Павлов был обвинен в госизмене и расстрелян.
Однако, на этот вопрос есть и альтернативная точка зрения. В недавно опубликванных воспомианиях генерал-полковника Хажди-Умар-Мамсудова, бывшего в то время полковником ГРУ. Мамсудов утверждал, что лично арестовал Павлова по приказу маршала, хотя есть сведения, что это не так, и что Ворошилов первоначально был против ареста и просил Сталина этого не делать, но Сталин решил по-другому.