На 22 июня 1941 года маршал Буденный был первым заместителем наркома обороны СССР Тимошенко. Сохранились воспоминания Буденного о том, как для него началась война. Маршал рассказывал, что именно он первым дорожил Сталину о том, что немцы напали на Советский Союз. Войну он встретил в своем рабочем кабинете в здании министерства:
В 4:01 мне позвонил нарком товарищ Тимошенко и сообщил, что немцы бомбят Севастополь и нужно ли об этом докладывать товарищу Сталину? Я ему сказал, что немедленно надо доложить, но он сказал: «Звоните Вы!» Я тут же позвонил и доложил не только о Севастополе, но и о Риге, которую немцы также бомбят. Тов. Сталин спросил: «А где нарком?» Я ответил: «Здесь со мной рядом» (я уже был в кабинете наркома). Тов. Сталин приказал передать ему трубку.
Через полчаса Буденный вместе с Тимошенко и Жуковым зашли в кабинет Сталина. Хотя, сам Жуков утверждал, что он предупредил Сталина сам, разбудив его телефонным звонком прямо из кабинета Тимошенко, а Буденный присоединился с ним позднее. Где тут правда, установить теперь сложно.
За несколько часов до этих событий, вечером 21 числа Тимошенко, Жуков и Буденный были на приеме у Сталина и обсуждали,что делать, если немцы нападут на СССР в ближайшие двое суток. Если верить "Военному дневнику" Буденного, Жуков и Тимошенко пообещали быстро разгромить вермахт в приграничных сражениях и перенести боевые действия на территорию противника в полном соответствии с новейшей советской военнной доктриной. По свидетельству Буденного, Сталин заявил, что это полная ерунда, сделать это нереально и попросил маршала высказать свое мнение.
Буденный предложил следуюшее: привести всю авиацию в боевую готовность, выдвинуть на границу войска всех приграничных округов, а за первой линией обороны создать Резервный фронт. Сталин согласился с его предложениями, попутно заявив, что, в отличие от Буденного, нарком и начальник Генштаба к вопросам обороны относятся несерьезно и необдуманно. По итогам совещания Буденный был назначем командующий армий второй линии, через два дня, после создания Ставки 23 июня он вошел в ее состав и стал командующим резервом.
Директовой Ставки от 25 июня в районе Брянска формировалась группа армий резерва в составе 19-й, 20-й, 21-й и 22-й армий, которые перебрасивались из внутренних округов СССР. Маршал Буденный был назначен командующим войсками группы, членом Военного совета стал Маленков, а начальником штаба - генерал Покровский.