Священномученик Иоанн родился в 1866 г. в семье крестьянина Ивана Яковлева в селе Новоегорлыкское Ставропольской губернии. По окончании Ставропольской духовной семинарии, Иван Иванович служил псаломщиком в Николаевском храме г. Ейска, после вступления в брак был рукоположено во диакона и священника. Местом служения пастыря была станица Новониколаевская, а затем Свято-Димитриевский храм Екатеринодара. Среди прочих обязанностей отец Иоанн преподавал Закон Божий в епархиальном женском училище. В семье святого было четверо детей.
В 1912 г. священник стал депутатом городской думы от духовенства, в 1915 г. - был избран в Екатеринодарское городское присутствие. В 1919 г. отец Иоанн был возведен в сан протоиерея.
После прихода к власти большевиков отец Иоанн подвергся преследованиям как член церковно-приходского управления. При этом он отстаивал имущество церковно-приходского управления, которое большевики пытались изъять.
15 сентября 1921 г. священомученик был арестован. Пастырю предъявили обвинение в контрреволюционной пропаганде и связях с высланными священниками. Отец Иоанн отверг обвинения в пропаганде и признал лишь то, что отправил одно письмо знакомому священнику в концлагерь.
В защиту отца Иоанна выступил весь приход Свято-Димитриевской церкви Екатеринодара. Прихожане писали: «священник Иоанн Яковлев проживая рядом более 20 лет, нам близко и хорошо известен, как человек всегда относящийся с любовью к людям, будучи духовным пастырем на пути добра, совести и чести». Епархиальное управление также подтвердило, что протоиерей Иоанн Яковлев никогда не высказывался против советской власти.
Несмотря на положительные отзывы прихожан и епархиального начальства, в ЧК торопились поскорее разделаться с уважаемым в народе священником. 23 сентября было вынесено решение Тройки о высшей мере наказания. Священномученик Иоанн Яковлев был расстрелян и погребен в неизвестной могиле.