По результатам успешного для советских войск сражения на Курской дуге было решено освобождать Харьков. Это было поручено войскам Воронежского фронта под командованием Николая Ватутина и Степного фронта Ивана Конева.
Особенно усиленную группировку представлял Степной фронт. Ему выделили пополнение 35 тысяч человек и придали еще 335 танков (200 — Т-34, 100 — Т-70 и 35 — КВ-1).
Харьков обороняли немецкая 4-я танковая и 8-я полевая армии - всего 14 пехотных и 4 танковые дивизии.
Операция началась с освобождения Белгородчины 3 августа 1943 года. Уже 5 августа был освобожден Белгород. После этого в бой были введены танки, которые стали охватывать Харьков с севера и юга. 10 августа была взята под огневой контроль железная дорога между Полтавой и Харьковом.
Также активизировались боевые действия на Донбассе. Это не дало возможности немцам сразу перебросить подкрепления с Донбасса на Харьковщину.
11 августа советские войска были уже у внешнего периметра обороны Харькова. Советская 57-я армия вышла к западным окраинам Харькова и отсекла немецкий гарнизон от частей 8-й полевой армии.
13-го августа Степной фронт прорвал внешнюю оборону Харькова. При этом советские части понесли большие потери - в полках осталось по 600 штыков. Советские танкисты потеряли несколько сотен танков. 18 августа велись ожесточенные бои на северных окраинах Харькова.
Пытаясь спасти положение немцы перебросили с Донбасса четыре танковые дивизии. Они нанесли контрудар в районе Богодухова, в стыке между Воронежским и Степным фронтами. Контрудар был сильным, но не остановил наступления советских войск на Харьков.
20 августа немецкий гарнизон Харькова попал в тактическое окружение. 22 августа немцы стали выводить весь гарнизон в заречные районы Заудья и Залопани.
В 2 часа ночи 23 августа советские войска начали решительный штурм Харькова. К утру большая часть города была освобождена. Полностью город был очищен от противника только 30 августа 1943 года.
За время операции "Румянцев" были разгромлены 11 пехотных и 4 танковые дивизии противника. 10 советских стрелковых дивизий Степного фронта получили наименование Харьковских.