В марте 1926 года Сталин делился с Молотовым: "Что мне делать с этими недоумками? С Зиновьевым, с Каменевым, они хотят моей крови, они хотят сместить меня с должности генсека, они готовы объединиться с Троцким, чтобы меня уничтожить. Но вот что я тебе скажу дорогой Молотошвили, товарищ Сталин не так прост, как воображают себе эти бравые оппозиционеры. Скорее я станцую на их похоронах!" И Сталин весело засмеялся, а Молотов осторожно втянул губы. Он прекрасно знал, что Сталин не шутит.
Сталин готовил разгром объединённой оппозиции, но для начала ему нужно было отделить от них вдову великого вождя Надежду Крупскую, она могла предать их объединению эффект легитимности от Ленина, чего Сталин естественно не мог позволить. В июле 1926 года Сталин позвал Крупскую к себе в кабинет, он обратился к ней как к старому боевому товарищу: "Что происходит товарищ Надежда Константиновна? Я слышу странные слухи о вашем возможном участии в объединённой оппозиции. Вы хотите выступить против товарища Сталина, а между прочим товарищ Сталин представляет ЦК, а значит представляет нашу большевистскую партию, и значит вы, Надежда Константиновна, выступаете против партии. Так я должен понимать ваши связи с Зиновьевым и Троцким? Одумайтесь, дорогая Надежда Константиновна, я обещал Ильичу на смертном одре, что позабочусь о вас. Но я не могу спасти вас от самой себя. Надеюсь вы примете правильное решение, и не пойдёте против партии, которую основал ваш муж, и которая никогда не простит одной вещи - предательства! Вы меня хорошо поняли, Надежда Константиновна? Я достаточно понятно изъясняюсь на русском?"
Надежда Константиновна очевидно хорошо поняла Сталина, потому что после этого разговора почти сразу отказалась от любых контактов с объединённой оппозицией. У Сталина в руках теперь была вся сила ЧК/ГПУ, и он был готов подавить оппозицию любыми средствами.
Каменев потихоньку начал сомневаться, и Сталин понял, что если немножко надавить на Зиновьева, то оппозиция немедленно распадется, Троцкий останется один. В декабре 1926 года Сталин встретился с Зиновьевым и открыто ему заявил: "Григорий, зачем идёшь против товарища Сталина? Разве товарищ Сталин сделал тебе что-нибудь плохое? Разве товарищ Сталин обидел тебя чем-нибудь? Разве я не дал тебе и Каменеву возможность управлять страной после смерти Ильича. Если бы не я, Троцкий вас раздавил бы. Теперь вы идете и объединяйтесь с этим негодяем, чтобы сместить меня с должности генсека, чтобы убрать меня от власти в партии. А между прочим партия хочет видеть товарища Сталина своим вождём, А между прочим партия любит товарища Сталина! Молчи, Григорий, молчи, и послушай что я тебе скажу, твой Троцкий не имеет никакого влияния в партии, кроме горстки студентов его никто не поддерживает, он проиграет эту политическую борьбу, неужели вы с Каменевым хотите быть в среде проигравших? Подумай об этом Григорий, подумай."
Зиновьев видимо подумал, но на тот момент решил, что можно ещё побороться. Они с Троцким решили организовать параллельное шествие на десятилетие Октябрьской революции. К сожалению из этой затеи ничего не вышло, Сталин обвинил их в попытке создать вторую партию, в попытке совершить государственный переворот, все трое, и Зиновьев, и Каменев, и Троцкий, были исключены из партии и лишены всех партийных и государственных должностей.
В декабре 1927 года Сталин вызвал к себе Троцкого, чтобы обговорить с ним сложившуюся ситуацию. Сталин начал довольно сухо: "Чего тебе не сидится, Лев? Зачем лезешь на амбразуру? Зачем ведёшь других партийных товарищей по опасной дорожке? Может пора успокоиться? Может пора признать победу товарища Сталина во внутрипартийной борьбе? Народ тебя не любит, Лев! Ты зазнавшийся интеллигент, который всю революционную борьбу провёл в заграничных кафе шантанах, пока мы здесь в России совершали настоящие дела. Ты далёк от народа, тебя никогда не признают своим. Ты хорош в международных движениях в среде западной интеллигенции, но здесь ты никто! И поверь, дорогой мой Лейба, товарищ Сталин раздавит тебя, как таракана. Беги, пока можешь!"
Троцкий решил продолжать борьбу, и поэтому сначала был сослан в Казахстан, а потом уже и заграницу. Зимовьев с Каменевым решили не испытывать судьбу и сдались на милость Сталину.
Теперь для Сталина оставался только один соперник, интеллигент и экономист, яркий теоретик партии, любимец Ленина, товарищ Бухарин. Бухарин не поддерживал радикальную политику Сталина на селе, был против насильственной коллективизации. В апреле 1928 года Сталин вызвал Бухарина к себе и жёстко заявил: "Николай, я раздавил Троцкого, я раздавил Зиновьева, я раздавил Каменева, и скажу тебе по секрету, я раздавил Ленина в конце его жизни, когда он решил пойти против товарища Сталина. Неужели ты думаешь, что у тебя хватит сил пойти против товарища Сталина. Мы с тобой можем горы свернуть, ты будешь моей правой рукой, будешь пользоваться всеми партийными привилегиями, будешь развлекаться со своими молодыми жёнами. Но если пойдёшь против товарища Сталина, окажешься на обочине истории, окажешься на самом дне. Я пытаюсь спасти тебя, Николай! Я пытаюсь дать тебе шанс сделать правильный выбор. Прекращай эти разборки, хватит нападать на меня на заседаниях ЦК, хватит называть меня восточным деспотом, намекая на мою национальность. Скажу тебе по секрету, партия любит меня, и она не сдаст меня в угоду правым уклонистам типа тебя и Рыкова. Твой ход, бухарчик, смотри, не ошибись."
Бухарин в итоге не выдержал давления со стороны ЦК и был вынужден признать свою ошибочную позицию по поводу коллективизации. Сталину удалось сплотить вокруг себя практически всю власть, отстранить Рыкова, назначить Молотова, а это уже был первый шаг к единоличной власти и распространению культа личности Сталина. Появлялся новый вождь!