В сентябре 1936 года, как только Сталин расправился с Зиновьевым и Каменевым, Ягода был смешен в посла главы НКВД. Спустя 2 года его расстреляют по обвинению в убийстве Менжинского (что маловероятно), Куйбышева (страдавшего сердечной недостаточностью и умершего с перепою) и Горького (что полностью соответствовало истине – уникальный случай в советской истории, когда глава госбезопасности понес наказание на преступление, которое он действительно совершил). на место Ягоды пришел карлик Николай Ежов, которому предстояло выполнить самую грязную часть «великой чистки», а затем последовать за своим предшественником.
Ягода хорошо служил Сталину, но дружил с Бухариным, большую часть своей «советской» жизни проработавший в ГПУ, он не смог расстаться с иллюзией самостоятельности своей службу. Работая с ним, Сталин не мог отдаться от впечатления, что Ягода не говорит ему всего, что-то утаивает. Ежов же, являясь творением Сталина, был полностью предан своему хозяину. Причем он был настолько глуп, что до самого конца так и понял, какую роль ему уготовил генсек. Роль эта представляла собой невероятный и от этого еще более ужасный симбиоз стрелочника, палача и козла отпущения.
Еще в ходе процесса над Зиновьевым и Каменевым, 21 августа 1936 года Вышинский заявил, что он получил приказ начать расследование враждебной деятельности Томского, Бухарина, Рыкова, Радека, Пятакова, Сокольникова и Серебрякова. На следующий день Томский застрелился. Тех же, кто не застрелился, ждал суд и скорая расправа.
23 января 1937 года начался «процесс семнадцати». На это раз судили Радека, Пятакова , Сокольникова и еще 14 бывших сторонников Бухарина. Подсудимые, прошедшие длительную подготовку на Лубянке, дали показания на Рыкова и Бухарина. Спустя наделю 13 человек, сидевших на скамье подсудимых в Колонном зале, были проговорены к расстрелу. А через месяц состоялся пленум ЦК ВКП(б). За пять дней до начала пленума, 18 февраля 37-года после беседы со Сталиным застрелился по-прежнему симпатизировавший Бухарину Орджоникидзе.
Февральско-мартовский пленум Сталин превратил в погребение Бухарина и Рыкова. Делегатам были розданы составленные НКВД материалы на двух бывших друзей и сторонников Кобы. Сталин потребовал санкции ЦК на арест «фашисткой банды убийц».
Чтобы и на этот раз остаться «чистым» перед историей (Сталин никогда и никого не убивал сам) и еще крепче связать своих подельников круговой порукой, генсек предложил создать специальную комиссию, которая должна была решить судьбу Бухарина и Рыкова. Во главе этой комиссии был поставлен Микоян, а в ее состав кроме всех прочих вошли Крупская и Мария Ульянова.
27 февраля 1937 года Центральный Комитет ВКП (б), 70 % которого будут расстреляны в ближайшие несколько месяцев, утвердило выводы комиссии о необходимости выдачи «фашистско-троцкистских заговорщиков» в руки правосудия. Рыкова и Бухарина арестовали на месте и отвезли на Лубянку. 2 мата 1938 года они вместе с Ягодой и еще 18-тью своими бывшими сторонниками, объединенный Ежовым и Сталиным в «право-троцкистский блок» сели на скамью подсудимых Доме Союзов. Спустя 11 дней суд приговорил их к расстрелу.