Утром 22 июня 1941 г. войска НКВД одними из первых вступили в бой с немецко-фашистскими захватчиками. Наступление войск вермахта велось вдоль основных дорог, где все наиболее крупные мосты, железнодорожные сооружения и важные предприятия промышленности, расположенные в приграничных районах Советского Союза, охранялись гарнизонами войск НКВД. За каждый охраняемый объект личный состав войск, сдерживая превосходящего врага, вел упорные бои, проявляя примеры мужества и героизма. Особенностью боевого применения войск НКВД в начальный период Великой Отечественной войны являлось то, что они вступали в бой в местах своей дислокации. Многие из военнослужащих войск НКВД, оказавшись отрезанными от своих воинских частей, сражались в окружении и, лишь когда кончались боеприпасы, подрывали охраняемые объекты и вливались в отходящие воинские части Красной армии.
В течение первой недели войны немецким войскам удалось вклиниться в глубь советской территории на 400 км. Однако в тылу противника продолжал сражаться гарнизон героической Брестской крепости, в состав которого входили пограничники и военнослужащие 132-го отдельного батальона конвойных войск НКВД.
Военнослужащие 132-го батальона совместно с другими воинскими частями Красной армии утром 22 июня 1941 г. первыми приняли удар врага и в течение нескольких дней держали оборону между Тереспольскими и Холмскими воротами цитадели. Особо отличился в боях повар батальона красноармеец Ф. Рябов, который был послан связным в штаб обороны крепости. По воспоминаниям участников боев, Ф. Рябов уничтожил два немецких танка и спас жизнь командиру. Посмертно отважный воин был награжден орденом Отечественной войны I степени.
Там, где личный состав батальона держал оборону, на стене осталась надпись: «Я умираю, но не сдаюсь! Прощай, Родина. 20 июля 1941 г.».
Успешно действовал в августе 1941 г. в обороне Киева личный состав бронепоезда 56-го полка 4-й дивизии войск НКВД по охране железнодорожных сооружений под командованием капитана П.К. Ищенко. За проявленное мужество и отвагу командир бронепоезда 56-го полка войск НКВД по охране железнодорожных сооружений капитан Петр Кириллович Ищенко был награжден орденом Ленина. Отряд в количестве 27 человек из 4-й дивизии войск НКВД по охране железнодорожных сооружений, оборонявшей Киев, находился в окружении 67 суток и прошел около 700 км по территории, занятой противником, и в итоге с боями вышел к советским войскам.
Массовый героизм и мужество в борьбе с немецко-фашистскими захватчиками проявили сотрудники органов внутренних дел НКВД, которые приняли непосредственное участие в боях в составе истребительных батальонов, созданных для борьбы с парашютистами и диверсантами противника.
Например, в Белоруссии из четырех истребительных батальонов и сотрудников милиции г. Витебска был сформирован сводный полк, защищавший областной центр. В обороне Киева участвовал истребительный батальон, созданный из работников городской милиции и сотрудников НКВД. К концу июля 1941 г. количество сформированных истребительных батальонов НКВД достигло 1755, а их численность составила 328 тыс. человек.