Разведывательная деятельность НКВД включала развертывание широкой разведывательной сети с помощью Коминтерна.
НКВД был главным исполнителем массовых политических репрессий 1930-х годов. Многие граждане СССР, заключенные в лагеря ГУЛага или приговоренные к смертной казни, были осуждены во внесудебном порядке особыми "тройками" НКВД. Также НКВД был исполнителем депортаций по национальному признаку. Многие сотрудники НКВД сами стали жертвами репрессий; многие, в том числе принадлежавшие высшему руководству были казнены.
К началу войны войска НКВД состояли из 14 дивизий, 18 бригад и 21 отдельного полка различного назначения, из которых в западных округах находились 7 дивизий, 2 бригады и 11 оперативных полков внутренних войск, на базе которых в Прибалтийском, Западном и Киевском особых округах перед войной началось формирование 21-ой, 22-ой и 23-ей мотострелковых дивизий НКВД. Кроме того, на западной границе было 8 пограничных округов, 49 погранотрядов и других частей. В пограничных войсках НКВД насчитывалось 167 600 военнослужащих, во внутренних войсках НКВД – 173 900 военнослужащих. 22 июня 1941 года в бои с немецкими войсками вступили 47 сухопутных и 6 морских пограничных отрядов, 9 отдельных пограничных комендатур НКВД. Внутренние войска НКВД за период Великой Отечественной войны провели 9 292 операции по борьбе с бандитизмом, в результате было убито 47 451 и захвачено 99 732 бандита, а всего обезврежено 147 183 преступника. Пограничными войсками было ликвидировано в 1944–1945 годах 828 банд, общей численностью около 48 000 бандитов. В годы войны железнодорожными войсками НКВД охранялись около 3 600 объектов на железных дорогах СССР. Караулы войск сопровождали поезда с военными и ценными мирными грузами.
Во время Великой Отечественной войны НКВД содействовало советским партизанам на оккупированных территориях. Как правило, в партизанском формировании организовывал разведку и руководил ею заместитель командира по разведке. Предпочтение отдавалось офицерам НКВД. Большую роль в организации агентурной разведки партизан сыграли оперативные группы органов государственной безопасности, забрасываемые в район действия партизанских формирований.
По состоянию на 1 января 1941 года в лагерях и колониях насчитывалось 1 929 729 заключенных, это 7 % от трудоспособного населения страны. Их труд был востребован для победы над внешним врагом.
Многие ученые и инженеры были арестованы, обвинены в политических преступлениях и посажены в специальные тюрьмы, которые были известны как "шарашки", где их заставляли работать по специальности. Продолжая свои исследования там и освобожденные позже, некоторые из них стали мировыми лидерами в науке и технике.