Процесс над Бухариным и чистка в армии стали лебединой песней Ежова. В ослеплении внезапно свалившейся на него властью он слишком увлекся внешней стороной дела и забыл, кто в этой стране настоящий хозяин. Дело дошло до того, что эмигрантская пресса описывала положение в СССР как «режим Сталина-Ежова». Кроме того, Николай Ежов был больше не нужен – теперь Сталин больше нуждался в исполнительном полицейском и взвешенном советнике, чем в обезумевшем от чувства собственной значимости фанатике.
На эту роль Сталин присмотрел своего земляка из Закавказья Лаврентия Берию, которого 22 августа 38-го года генсек сделал 1-м заместителем Ежова. В том же месяце Николай Ежов по совместительству занял пост наркома водного транспорта. В ноябре того же года Берия окончательно занял пост наркома внутренних дел, но каркомат он принять не мог. Началась комедия с приемом дел и подписанием акта передачи наркомата, который Ежов под разными предлогами отказывался визитовать, понимая,что подпишет себе смертный приговор. Дело в том, что в этот акт уже были включены показания, которые дали против Ежова его соратники, которых теперь пытали в тех же самых кабинетах на Лубянке, где еще несколько месяцев назад они сами издевались над арестованными.
Наконец, в начале 1939 года Ежова таки заставили подписать акт, который не рассекречен до сих пор. В апереле его арестовали, долго пытали и приговорили к расстрелу в феврале 1940 года. В своем последнем слове на суде Ежов,намекая на Берию, заявил,что мало "почистил" чекистов и оставил в живых вот такие личности, которые сосряпали на него дело и подвели под расстрел.
Эпитафией ему стали слова Сталина, сказанные о нем в частной беседе незадолго до войны: «Ежов был подлецом. Он убил наших лучших людей. Человек превратился в бешенную собаку. Звоните ему в наркомат, там отвечают, что он уехал в ЦК. Звоните туда, а там говорят, что он на работе. Посылаете за ним домой, а он лежит в кровати пьяный. Как много невинных людей он уничтожил! За это мы его и расстреляли.»
