В ЦСКА Коваленко попал в конце 1980-х. Дебютировал в сезоне-1988/89, но провёл всего десять игр и золотую медаль не получил. Однако уже в следующем сезоне стал полноценной боевой единицей команды. Борис Михайлов, легендарный капитан ЦСКА и сборной, тренировавший армейцев во второй половине 1980-х, вспоминал: «За два сезона Андрей проделал путь от новичка команды до одного из её лидеров». В 1992 году Коваленко в составе сборной СНГ отправился на Олимпиаду в Альбервиль. Наша молодая команда, которую называли «детским садом», выступала под белым олимпийским флагом...

В сезоне-2023/24 Николай Коваленко играет за «Торпедо» на правах аренды из «Колорадо». «В НХЛ ему надо показывать свой лучший хоккей, который он показывает здесь. Все необходимое у него есть, он вырос за последние два года как спортсмен и игрок. В плане игры и ее видения он возмужал, стал крепче и мощнее. На сегодняшний день это такой молодой мощный мужичок, который может побиться. У него свой стиль, что-то он взял от меня, как, к примеру, борьбу в углах. Он с детства боролся, выгрызал шайбу, так же продолжает играть и в большом хоккее...