Полное имя любимого для нескольких поколений актёра и музыканта – Джозеф Франческо Делорес Элиот Пеши.
На свет Джо появился 9 февраля 1943 года в городе Ньюарк, штат Нью-Джерси. Его родители – потомки итальянских эмигрантов.
Отец, Анджело(Мистер Сальери передает привет), работал водителем погрузчика, а по вечерам подрабатывал барменом в маленьком баре «для своих». Мать Джо, Мария, была парикмахером, работала всего два-три дня в неделю, посвящая остальное время заботе о сыне и муже.
О том, что Джо не совсем обычный ребёнок, Анджело и Мария начали догадываться, едва он научился говорить. В четыре года Джо прекрасно пел и демонстрировал неординарные артистические способности, а в пять лет дебютировал на сцене одного из театров Нью-Йорка.
В конце 40-х семья Пеши переехала в Бельвилль, где Джо окончил среднюю школу. К этому времени он был постоянным участником детского эстрадного шоу «Звёздный час» и мечтал о музыкальной карьере.Творческий путь Джо начал, участвуя в качестве гитариста в нескольких группах, и в 1968 году под псевдонимом Джо Ричи выпустил свою первую пластинку «Little Joe Sure Can Sing!».
До середины 70-х Джо развивал музыкальную карьеру и пробовал свои силы в стендапе, выступая в дуэте со своим другом Фрэнком Винсентом в клубах и ресторанах Нью-Йорка.