Версия разведывательно-бомбардировочного самолета, обозначенная как Як-4, была оснащена двигателями М-105 и имела два дополнительных топливных бака в консолях крыла, что давало общую емкость 180 литров. Максимальная скорость увеличилась до 458 км/ч на уровне моря и 533 км/ч на высоте 5050 м, а также были улучшены скороподъемность и практический потолок. Тем не менее, оценивая самолет, А. Филин, начальник НИИ ВС, посчитал «необходимым прекратить производство Як-4, поскольку он не отвечал требованиям» из-за его все еще неудовлетворительной устойчивости, малой дальности и недоработанной силовой установки. Таким образом, хотя он был запущен в серийное производство на двух заводах. Конструкторское бюро Яковлева принимало активное участие в разработке истребителя И-26 и не смогло уделять много времени бомбардировщику до окончания серийного производства. К началу Второй мировой войны 73 Як-2 и 24 Як-4 действовали в западных военных округах вблизи советской границы. Они были поставлены в №№ 314 и 316 разведывательных авиаполков и № 136 бомбардировочного авиаполка Киевского военного округа. Хорошо обученные летчики 314 разведывательного авиаполка, базировавшегося в Барановичах, проводили стратегическую разведку немецких войск накануне вторжения, Як-4 использовались для этой цели из-за их высокой скорости по сравнению с другими советскими самолетами. Несколько раз Messerschmitt Bf109Eподнимались на перехват Яков, но не смогли их догнать из-за скорости советских самолетов. Однако в целом летчики полка были непривычны к Як-4, поскольку самолет был поставлен в апреле 1941 года, и только шесть летчиков смогли освоиться с его сложным управлением. Всего к 10 июня было выполнено 127 вылетов, после которых в распоряжении командования осталось только шесть или семь пригодных к полетам самолетов. Более десяти дополнительных Як-4, предназначенных для полка, не было поставлено из-за всеобщей неразберихи в начале войны. Летчики 207-го бомбардировочного авиаполка 3-го авиакорпуса пытались освоиться с самолетом, и командир полка, полковник Г. Титив, использовал Як-4 вместе с Ильюшинскими ДБ-3Ф в налете на мост через реку Березина. Семь или восемь самолетов обеспечивали оборону в западном районе примерно до сентября 1941 года. Самолеты 136-го бомбардировочного авиаполка 19-й бомбардировочной авиадивизии отправились на войну со своего аэродрома в Нехвороше, недалеко от города Белая Церковь. В сводках операций упоминается, что пять эскадрилий полка совершили вылеты против вражеских войск, атакуя с высоты от 1000 до 1500 м. Як-2 не был хорошо известен советским летчикам-истребителям, и один был сбит пилотом И-153. К счастью, экипажу удалось спастись из подбитого самолета. 136-й полк понес тяжелые потери на земле и в воздухе в начале июля 1941 года, потеряв большую часть своих самолетов. Погода в районе аэродрома была облачной и дождливой, и один самолет, возвращаясь с задания, сорвался в штопор и разбился, а еще два были повреждены при посадке. Только одному экипажу удалось благополучно приземлиться, и их экипаж был единственным годным к полету Як-2, способным выполнять боевые вылеты. До 100 бомбардировщиков Яковлева, треть из которых оснащались двигателями М-1 05, действовали в юго-западном районе в начале октября 1941 года, но информация об операциях и потерях в 1942 году не отслеживается. Помимо упомянутых выше подразделений, Як-2 и Як-4 служили в 10-м, 44-м, 48-м и 53-м средних бомбардировочных авиаполках и 225-м авиаполку. По словам очевидцев, один Як-4 118-го разведывательного авиаполка оставался в строю до 1945 года.
