В конце лета 34-го года Ягода направил в Ленинград Ивана Запорожца, который сменил чекиста Карпова на посту первого заместителя местного отдела НКВД. Глава отдела Филипп Медвед не согласился с этим решением и пожаловался своему лучшему другу Кирову. Тот обратился к Сталину, но генсек ответил Кирову, что все это делается для его же безопасности.
На самом деле Запорожец прибыл в Ленинград, чтобы подготовить убийство Сергея Кирова. Вскоре он вышел на Николаева, мужа любовницы Кирова, и убедил его убить соперника. Однако, сделать это оказалось не так просто. Телохранители Кирова были верны своему боссу, и приблизиться к нему на расстояние, необходимое для того, чтобы открыть огонь наверняка, не удавалось. Два раза охрана арестовывала Николаева с заряженным револьвером и маршрутом движения Кирова в кармане, но по приказу Запорожца его отпускали.
В конце ноября 34-го года Иван Запорожец, исполнявший к тому времени обязанности начальника ленинградского отдела НКВД, с разрешения Ягоды на пять дней якобы по семейным обстоятельствам покинул город. На его место был временно назначен бывший второй заместитель Вслед за Запорожцем в Москву на пленум ЦК прибыл Киров. Рано утром 29 ноября на «Красной стреле» он вернулся в Ленинград. На перроне его поджидал Николаев. Но, убийца вновь не смог приблизиться к своей жертве, поскольку встречающие чиновники и охрана окружили Кирова как только он вышел из вагона.
Тогда люди Запорожца пошли на рискованный и отчаянный шаг – днем 1 декабря они провели Николаева в Смольный и оставили его в коридоре, по которому должен был пройти Киров. В пол пятого вечера Сергей Киров покинул свой кабинет и направился на заседание одной из многочисленных комиссий. Не дойдя несколько шагов до двери, за которой его ждали собравшиеся, он был убит двумя выстрелами в спину. Телохранитель Кирова Борисов, следовавший на некотором расстоянии от своего патрона, оказался свидетелем убийства и быстро задержал Николаева. Прибывший на место Фомин допросил арестованного. Тот, после непродолжительной истерики, потребовал встречи с кем-либо из центрального аппарата НКВД и заявил, что действовал по приказу из Москвы.
Утром следующего дня на специальном поезде в «колыбель революции» прибыли Сталин, Молотов, Жданов, Ворошилов, Ягода, Ежов и Вышинский. Прямо на перроне Сталин подошел к Медведу и ударил его по лицу, а затем заслушал доклад Фомина. После этого генсек направился в Смольный, где лично допросил Николаева. В тот же день сразу после допроса у Сталина при невыясненных обстоятельствах погиб Борисов, единственный очевидец происшедшего. Приехавшие из Москвы вместе со Сталиным чекисты взяли Николаева под охрану и никого к нему не допускали. Они не спускали в него глаз, сменяясь каждые 6 часов. Через несколько дней Николаев был убит. В течении 1935 года Медвед, Запорожец, Фомин и почти все руководство ленинградского НКВД бесследно исчезли в Сибири. Жена Николаева и ее мать были расстреляны.
Убийство Кирова стало сигналом для начала новой крупномасштабной чистки. Офицеры из Москвы обнаружили в архиве ленинградского НКВД дело об антисталинской группе комсомольцев, которые в течении 34-го года несколько раз собирались для обсуждения проблем истории партии. Осенью чекисты раскрыли этот «заговор», но Киров не посчитал комсомольцев опасными и запретил их арестовывать. Теперь Сталин превратил молодежный дискуссионный клуб в гнездо убийц с громким названием «Ленинградский террористический центр». Кроме этого, генсек лично составил список подобного «Московского центра», в который вошли Каменев, Зиновьев и их бывшие сторонники, проживавшие в столице.
Уже 15 декабря на собрании ленинградского горкома партии занявший место Кирова Жданов объявил, что убийство было организованно молодежной секцией зиновьевской оппозиции в составе Колотынова, Румянцева, Шацкого и других. На следующий день в Москве были арестованы Зиновьев и Каменев. Через неделю они были приговорены Особым совещанием НКВД к административной ссылке за недостатком улик об их участии в убийстве. С членами «Ленинградского центра» все обстояло гораздо хуже. 29 декабря 1934 года они в ходе закрытого судебного заседания были приговорены к высшей мере наказания и в тот же день расстреляны. Затем в течении весны 35-го года из Ленинграда были депортированы все дворяне, бывшие царские госслужащие и офицеры, а также представители купеческого сословия. Также из города в Восточную Сибирь были высланы 40 тысяч рабочих вместе с семьями. Всего, по данным британского посольства, в 1935 году из «северной Пальмиры» было депортировано более 100 тысяч человек.