Рано потеряв родителей, Пётр Вершигора с двенадцати лет был пастухом, затем работал на мельнице. После революции пятнадцатилетним подростком он ушел из родного села в местечко Рыбницу, где в 1920 году поступил в агрономическую школу.
Работал председателем комитета незаможных селян, секретарём сельсовета, заведующим избой-читальней, режиссёром драмкружка, а вскоре начал выступать в составе сельского духового оркестра.
В 1925 году пошёл добровольцем в Красную армию, служил в 51-й Перекопской дивизии, где был барабанщиком, изучал основы дирижёрского искусства и стал старшиной музкоманды.
С началом Великой Отечественной войны — наблюдатель местной ПВО г. Киева, в июле 1941 года — интендант II ранга разведуправления Брянского фронта, в августе участвовал в битве за Киев в качестве помкомвзвода, комвзвода, комроты, командира батальона в 264-й стрелковой дивизии. По воспоминаниям Вершигоры, первый бой дивизия приняла 2 августа в районе села Степанцы, западнее Канева, в тот же день в Москве