Иван Яковлевич Рогочий родился 26 сентября 1905 года в г. Полтава в семье рабочих. С 1921 по 1924 год работал ремонтником железнодорожных путей и учился в вечерней школе (станция Рамодан). В 1924–1928 годах учился в профсоюзной школе, получил специальность слесаря и чертёжника. С 1928 по 1930 годы – студент индустриального института Наркомата сельского машиностроения г. Полтавы. С 1930 по 1932 годы – студент института механизации сельского хозяйства Наркомзема СССР г. Харькова. В 1933–1934 годах – научный сотрудник опытной станции Всесоюзного института механизации и электрификации (станция Раздельная Одесской области).
С 1937 по 1939 годы – старший научный сотрудник по механизации Всесоюзного НИИ эфиромасличной промышленности Наркопищепрома (г. Пушкино Московской обл.). С 1939 по 1941 годы – заведующий отделом механизации Прилукской опытной станции (г. Прилуки Черниговской области).
С 1943 по 1945 годы – командир отделения 1550-го дорожно-строительного батальона Советской Армии. От с