После окончания академии Андрей Еременко вернулся в свою дивизию. Через 3 года он был назначен командиром 6-го казачьего кавалерийского корпуса, дислоцированного в Белоруссии, в который были собраны оставшиеся кавчасти, некогда входившие в состав 1-й Конной армии. В этой должности в сентябре 1939 года Еременко вступил во Вторую мировую войну, когда его корпус выдвинулся из Узды, в 5 утра 17 сентября в составе конно-механизированной группы Болдина перешел польскую границу и начал продвигаться к Белостоку.
Первые бои с польской армией завязались при форсировании Немана. Сопротивление было подавлено артиллерийским огнем, и группа двинулась дальше. При подходе к Новогрудку Еременку чуть не попал к полякам в плен, но был отбит подоспевшими танками. В тот же день части РККА заняли в Новогрудок, но на протяжении еще 2 суток в городе и окрестностях слышалась стрельба.
Затем группа Болдина направилась в сторону Волковыйска. На марше Еременко второй раз за третьи сутки попал в плен, но вновь был возвращен после угрозы применить танки. 19 сентября советские войска без боя вошли в Волковыйск – поляки быстро отступали в Гродно. После этого танковые части Болдина и Еременко развернулись на Гродно и во второй половине дня подошли к южным окраинам города, где завязалось серьезное сражение. При штурме города в танк Еременко попал снаряд, он получил ранение. Все последующие три танка, которые командир использовал в качестве КП, были уничтожены польской артиллерией уже на улицах Гродно, и уцелеть Андрей Еременко помогло только чудо. После взятия Гродно корпус Еременко вышел к Белостоку.
Следующим этапом карьеры Андрей Еременко стала компания в Литве. 11 октября 1939 года литовские правительство подписало с СССР пакт о взаимопомощи. Получая Виленский край, отторгнутый Пилсудским в 1920 году, Литва согласилась на размещение на своей территории гарнизонов и аэродромов РККА.
В начале июня 1940 года корпус Еременко был выдвинут на литовскую границу. Ночью 14 июня Молотов предъявил правительству Литвы ультиматум. Хотя Литва и располагала самой мощной среди прибалтийских государств армией, но не имела ни одного реального шанса в случае сопротивления. 17 июня войска Еременко уже стояли на улицах Каунаса.