26 марта 1944 года началась Одесская наступательная операция 3-го Украинского фронта.
Задача овладеть Одессой была поставлена войскам 3-го УФ директивой Ставки еще в разгар Березнеговато-Снигиревской операции 11 марта 1944 года. В ряду прочих ставилась задача выйти на государственную границу. Повод для оптимизма давали не только успехи самого 3-го Украинского фронта, которым в тот момент командовал Р. Я. Малиновский, но и успехи соседних 1-го и 2-го Украинских фронтов. События на правобережной Украине явно развивались по благоприятному для Красной армии сценарию даже в условиях сезонной распутицы.
Ответом на директиву из Москвы стал план новой операции, подготовленный штабом фронта при участии представителя Ставки маршала А. М. Василевского к 19 марта 1944 года. Предполагалось начать новое наступление после выхода на реку Южный Буг. Главный удар наносился в обход Одессы с северо-запада силами 46-й и 8-й гвардейских армий. В качестве эшелона развития успеха предполагалось использовать конно-механизированную группу (КМГ) под командованием генерал-лейтенанта И. С. Плиева из 4-го гвардейского мехкорпуса и 4-го гвардейского кавкорпуса, а также 23-й танковый корпус А. О. Ахманова. Вспомогательный удар 57-й и 37-й армий наносился в направлении на Тирасполь. План Р. Я. Малиновского и А. М. Василевского сразу же утверждается Ставкой.
Надо сказать, что состояние войск 3-го Украинского фронта на тот момент было далеко от идеального. С одной стороны, общая численность фронта составляла около 528 тысяч человек. С другой стороны, средняя численность стрелковой дивизии 3-го Украинского фронта не превышала 3-4 тысяч человек, что существенно меньше штата в 10-11 тысяч человек. По отчетным документам фронта, войска Р. Я. Малиновского к началу операции располагали 265 танками и 98 САУ. 17-я воздушная армия 3-го Украинского фронта располагала 540 самолетами. Достаточно напряженной была ситуация с боеприпасами, так 37-я армия располагала лишь 0,6 боекомплекта боеприпасов (хотя обычно наступали, имея 2-3 б/к). Противостоявшие 3-му Украинскому фронту немецкая 6-я армия и румынская 3-я армия насчитывали около 200 тысяч человек.
Первоначально датой начала операции назначается 23 марта. Но доставка переправочных средств к Южному Бугу затягивается. В итоге было принято решение перенести начало операции на 26 марта. В ночь на 26 марта 57, 37, 46-я и 8-я гвардейские армии начинают форсирование Южного Буга. Вопреки ожиданиям 46-я и 8-я гвардейские армии не смогли преодолеть сопротивление противника и взломать оборону противника на его периметре. 57-я и 37-я армии наступали успешнее. Это заставляет Р. Я. Малиновского сменить план действий: перенести усилия на правый фланг с перегруппировкой 23-го танкового корпуса и КМГ. Решение это оказалось абсолютно правильным: армии М. Н. Шарохина (37-я А) и Н. А. Гагена (57-я) успешно наступали.
31 марта 23-й танковый корпус и КМГ вводятся в бой после преодоления за день около 70 км, что очень хороший результат даже летом, в сухую погоду, а в условиях распутицы — настоящий подвиг. 1 апреля 23-й танковый корпус вышел к реке Тилингул. Все переправы были немцами взорваны, а броды заминированы, но это задержало советское наступление всего на сутки. В ночь с 1 на 2 апреля Тилингул был форсирован, и наступление продолжилось.
К тому моменту войсками уже был накоплен опыт действий в условиях распутицы. Практика показала, что попытки тянуть всю артиллерию одновременно приводили к ее общему отставанию. В том числе ввиду того, что 76-миллиметровую пушку по непролазной грязи могли тянуть только 6-8 пар лошадей. Поэтому решено было перемещать только то количество орудий, на которые есть средства тяги и боеприпасы. Подвижным частям боеприпасы и горючее доставлялись транспортной авиацией. Также достаточно эффективными показали себя ночные охваты и обходы заслонов немцев, выставленных на дорогах.
Благодаря поддержке артиллерии и «катюш» к 12 часам 4 апреля войска конно-механизированной группы занимают Раздельную. Тем самым перехватывается основная коммуникация одесской группировки противника — железная дорога на Тирасполь. Трофеями советских войск на станции Раздельной становятся 37 паровозов и 990 вагонов.
Немецкая 6-я армия ударом КМГ и 23-го танкового корпуса оказывается рассечена надвое. XXX и LII корпуса отходили на Тирасполь, а остальные сгрудились в районе севернее от Одессы. Отход на Одессу означал разгром и окружение, пусть и при слабой надежде на эвакуацию морем. Поэтому немцами 6 апреля предпринимается отчаянная попытка прорваться через Раздельную на северо-запад. Попытка частично удалась ценой больших потерь (прорвались 3-я и 97-я гсд, 335-я пд). По подсчетам советской стороны, только на поле боя под Раздельной осталось около 6 тыс. убитых. В плен было взято 3 тыс. человек, трофеями – 40 танков и САУ, 180 орудий и 1000 повозок. Потерпевшие неудачу в прорыве откатились назад к Одессе.
Тем временем КМГ Плиева поворачивает резко на юг, двигается вдоль Днестра и 8 апреля занимает Маяки и Беляевку. Удар был настолько стремительным, что немцы даже не успели взорвать снабжавшую Одессу водой водокачку на окраине Беляевки. Попытка немцев отбить Беляевку потерпела неудачу.
9 апреля следует приказ штаба фронта на наступление группы Плиева на Овидиополь и далее к берегу Черного моря. Однако выполнить эту задачу-максимум и перехватить пути отхода противника по переправе у Овидиополя все же не удается. 10-я гвардейская казачья кавдивизия из КМГ Плиева к исходу 9 апреля овладела северной частью Овидиополя, но из-за недостатка боеприпасов и ожесточенных контратак противника вынуждена отойти на север, к Калаглее. Дивизия попадает в окружение отходящих колонн противника. В ожесточенном бою соединение несет потери, в бою погибает командир дивизии С. А. Шевчук и офицеры его штаба. С боем дивизия пробивается к своим на Беляевку.
Частный успех у Овидиополя все же никак не улучшал положение немцев под Одессой. События развивались стремительно. Части 5-й ударной армии 8 апреля с ходу преодолели внешний оборонительный рубеж Одессы и к 18.00 9 апреля заняли район Пересыпь (известный по строчке из песни: «Но и Молдаванка, и Пересыпь обожают Костю-моряка»). К штурму Одессы советские войска готовились заранее, намечались районы и кварталы для штурма, формировались штурмовые группы. Из местного населения были взяты проводники, хорошо знающие город и строившиеся на их глазах оборонительные сооружения противника. Обороняли город помимо разрозненных подразделений румын части немецкой 304-й пехотной дивизии. Штурм Одессы начался в 20.00 9 апреля после короткого артиллерийского налета. Сбитые с позиций на окраинах и под действиями советских штурмовых групп в городе немцы и румыны заметались и стали в беспорядке отходить. Оборона отдельных каменных зданий, подвалов и перекрестков уже не носила организованного характера и служила лишь прикрытием отхода из города под покровом темноты основных сил противника. Отход прерывался ударами штурмующих. Так, в ночном бою части 86-й гвардейской стрелковой дивизии 5-й ударной армии разгромили крупную колонну автомашин и пехоты. Вынужденно оставленный 16 октября 1941 года к 10 часам утра 10 апреля 1944 года город и крупный порт Одесса был освобожден, снова вернулся в родную гавань.
В боях за Одессу советскими войсками были взяты богатые трофеи: 207 паровозов, 3 957 вагонов с различными грузами, 8 080 автомашин (по большей части неисправные), 171 тягач, 169 танков, 223 орудия разных калибров. В плен было взято 1 100 солдат и офицеров противника.
Остатки немецких IV и XVII корпусов и IIIрумынского корпуса не успели эвакуироваться морем из Одессы, они отходили к Днестровскому лиману, точнее, к Аккерманским переправам. Немцы прикрывали переправу исключительно сильным огнем артиллерии. В течение трехдневных боев с 11 по 13 апреля немцам удалось сдержать атаки и эвакуировать скопившиеся войска на западный берег Днестра. К утру 14 апреля Овидиополь и весь восточный берег Днестровского лимана был очищен от противника. На правом крыле фронта 23-й танковый корпус 12 апреля вышел к реке Днестр. Это заставило немцев ослабить сопротивление и в панике устремиться к Тираспольским переправам. На плечах отходящего противника советские передовые отряды, используя оставленные врагом переправочные средства, к вечеру 12 апреля форсировали Днестр и завязали бои за плацдарм на его западном берегу. Но это уже совсем другая история. По директиве Ставки 3-й Украинский фронт с 14 апреля перешел к обороне.
Несмотря на то, что 3-й Украинский фронт не вышел на государственную границу, как это предполагалось по директиве Ставки, Одесско-Днестровская операция стала крупным успехом Красной армии. Войска 3-го Украинского фронта за 17 дней с боем прошли свыше 160 км и захватили плацдармы на Днестре. Потеря немцами Николаева и, главное, Одессы имела исключительное значение, так как полностью изменила обстановку во всем южном секторе советско-германского фронта. Теперь вместо снабжения по короткому плечу подвоза из Одессы немецкая 17-я армия в Крыму вынуждена была опираться на подвоз из более далекой румынской Констанцы. Более того, эвакуация 17-й армии из Крыма в Констанцу теперь становилась сомнительным предприятием, что и показали дальнейшие события.