Захарий родился в дворянской семье, получил домашнее образование. Как и все его братья поступил на военную службу и 1 января 1784 года был определён каптенармусом в Преображенский полк. В 1788 году вышел в отставку в чине поручика, продал своё имение зятю и решил посвятить себя монашеской жизни.
Захария, по совету монаха Василиска, отправился в Коневецкий монастырь к Адриану. Старец принял его и назначил послушником. После испытания Адриан постриг Захарию в монашество с именем Зосима в честь преподобного Зосимы Соловецкого. В 1792/93 году по приглашению Адриана на Коневец пришёл преподобный Василиск, который стал другом Зосимы. Для своих учеников Адриан в трёх верстах от монастыря построил две кельи. В них Зосима и Василиск проводили 5 дней, а в субботу приходили в монастырь ко всенощной, а в воскресенье после литургии возвращались в свои кельи.
В 1799 году старец Адриан решил принять постриг в великую схиму и уехал в московский Симонов монастырь. Прощаясь с учениками, он благословил Зосиму и Василиска на пустынножительство в Сибири, но их больше привлекал Афон. Трижды они пытались отправиться на Святую гору, но каждый раз это начинание у них не получалось. Друзья отправились в Киев где с разрешения митрополита два месяца жили в Киево-Печерской лавре, а затем отправились в Крым и позднее в Моздок. По причине набегов горцев их под конвоем доставили оттуда в Таганрог, из которого они перебрались в Астрахань, где решили исполнить благословения старца Адриана и, купив лошадь, отправились в Сибирь. Осенью 1800 года они достигли Тобольска где архиепископ Варлаам (Петров) дал им разрешение поселиться на территории его епархии. После года странствий по сибирским уездам в 1802 году они поселились в лесах Кузнецкого уезда. В тайге в сорока верстах от ближайшей деревни ими была выкопана землянка. Пищу отшельникам приносил один из крестьян ближайшей деревни. На следующий год весной они решили выйти из тайги, но заблудились и провели в лесу около двух недель.
Выйдя из тайги, Зосима и Василиск поселились в Кузнецком уезде. У реки Средняя Терсь в пятидесяти верстах от Кузнецка крестьяне срубили им две кельи. Монахи разбили огород, занимались рукоделием. Раз в год их посещал священник со Святыми Дарами. Вокруг пустынников образовалась небольшая община подвижников, в числе её был ученик святого Василиска праведный Пётр Томский чье жизнеописание составил преподобный Зосима. Преподобный Зосима (рисунок конца 20-х – начала 30-х гг. XIX века из архива Зосимовой пустыни)
В 1822 году стараниями Зосимы и Василиска был учреждён в Тобольской губернии Туринский Николаевский женский монастырь (с благословения Тобольского архиерея Зосима ездил в Санкт-Петербург к митрополиту Филарету (Дроздову) для получения соответствующего разрешения). Для общины Зосима написал особый устав на основе общежительных правил Василия Великого (в начале 1823 года старец вновь ездил в Санкт-Петербург чтобы представить свой Устав на утверждение Синода). После возникших там недоразумений (часть насельниц обвинила Зосиму в расколе, растрате и притеснениях сестер) отец Зосима указом Синода от 24 января 1825 года был уволен «от звания попечителя и от всякого влияния на монастырь» и переселился в Москву. С благословения митрополита Филарета Зосима стал насельником Чудова монастыря.
В 1826 году близ Москвы, в Верейском уезде в имении надворной советницы М. С. Бахметевой с благословения митрополита Филарета Зосима устроил женскую общину в честь Смоленской иконы Божией Матери «Одигитрия». Первыми её насельницами стали монахини Туринского Николаевского монастыря, которые в ходе конфликта остались верными своему духовнику и последовали за ним в Москву. В этой пустыни Зосима прожил до своей смерти. Он заботился о монастыре, искал благотворителей для его содержания. При этом, имея тягу к уединения, Зосима в лесу в трёх верстах от пустыни устроил себе небольшую келью. В ней он, как и в Коневецком монастыре под началом своего учителя старца Адриана, жил 5 дней в неделю, в субботу приходил в пустынь к утрени, а после воскресной литургии возвращался в свою лесную келью. В ней от двух старцев из Орловской губернии он принял постриг в великую схиму.
Скончался 24 октября (6 ноября) 1833 года на праздник иконы «Всех скорбящих Радость». Был похоронен возле монастырской часовни.