После окончания очередной русско-турецкой войны Хосе де Рибас остался в Новороссии, занимаясь модернизацией своего гребного флота, а также обучением новобранцев.
Доказав не словом, а делом свое умение управлять судами в бою, генерал-майор Осип Михайлович Дерибас получает равнозначное (но уже морское) звание контр-адмирала, а в 1793 году производится в вице-адмиралы. В это время начинается строительство Днестровской оборонительной линии для охраны новой русско-турецкой границы и для этой цели создается так называемая "Экспедиция строения южных крепостей" во главе с генерал-аншефом Александром Васильевичем Суворовым.
И вот здесь-то начался тот этап в жизни Осипа Михайловича из-за которого его имя навсегда вошло в историю государства Российского. Судьба уготовила ему остаться в памяти потомков именно как основателю нового города - нынешней Одессы.
Хосе де Рибас, а также военные инженеры Франц де Воллан и Андрей Ильич Шостак, по поручению императрицы Всероссийской Екатерины II, выбрали место для будущей "Жемчужины черноморского побережья" на участке от Очакова до устья Днестра. Де Рибас, обследовав все побережье, не нашел ничего более лучшего, как устроить будущий порт на месте завоеванного ранее Хаджибея. Получив поддержку нового фаворита Екатерины II - Таврического и Екатеринославского генерал-губернатора графа Платона Александровича Зубова.
27 мая 1794 года последовал императорский рескрипт де Рибасу - он был назначен начальником будущей гавани и с энтузиазмом взялся за строительство нового порта.
Первые фундаменты были торжественно заложены 22 августа 1794 года после молебна и освящения города и порта архиепископом Екатеринославским и Херсонес-Таврическим Гавриилом в присутствии вице-адмирала Хосе де Рибаса, военных, флотских, а также гражданских чинов. Название города - Одесса, появилось несколько позже.
По легенде это произошло на придворном балу 6 января 1795 года, когда кто-то предложил императрице Екатерине назвать новый город "Одессос", по имени древнегреческого поселения, существовавшего где-то неподалеку от Хаджибея. Екатерина согласилась, однако внесла поправку и предложила назвать город - Одесса.
Город и порт строили мастера со всех концов империи включая солдат, расквартированных в окрестных армейских частях, а также матросов гребной флотилии самого де Рибаса. Это была поистине "стройка века", как выразился позднее Александр Васильевич Суворов, занятый польскими делами.
Еще до указа императрицы здесь начинает строиться крепость. Ее назвали Новой, или Русской, в отличие от старой турецкой, разобранной после взятия Хаджибея. Кипела работа в порту, где строились верфи, а также дамба и две православные церкви Святой Екатерины и Святого Николая.
Осип Михайлович Дерибас старался все работы по строительству молодого города отдавать русским подрядчикам, не призывая в Одессу ни одного иностранца. Сам де Рибас считал строительство Одессы главным делом своей жизни.
"Из содеянного мною в этой жизни почитаю важнейшим основание порта и города, которому волею мудрой государыни дано чудное имя – Одесса".
Хосе де Рибас.
Казалось бы, что перспективы у города и порта, как и перспективы самого Осипа Михайловича Дерибаса были самые благоприятные, как вдруг все неожиданно меняется… В ноябре 1796 года умирает императрица Екатерина II Великая и на российский престол восходит ее сын - Павел I Петрович, который решил покончить со всеми начинаниями и проектами своей матери, в том числе и с Одессой, а также попутно отстранить от службы многих ее любимцев и фаворитов. Уже в декабре последовал императорский указ об увольнении вице-адмирала Хосе де Рибаса и проведении полной ревизии флота и строений города и порта и Осип Михайлович, сдав все дела контр-адмиралу Семену Афанасьевичу Пустошкину, выехал в Петербург.
Существует интересный исторический анекдот, как в феврале 1800 года де Рибасу удалось в последний раз стать спасителем своего детища – Одессы и спасти от запустения город. Как одно из многих начинаний своей матери, Павел Петрович практически лишил молодую Одессу финансирования, но хитроумный Хосе де Рибас, зная особую страсть императора к апельсинам, посоветовал одесскому магистрату срочно доставить груз этих средиземноморских фруктов в Петербург. Три тысячи апельсинов немедленно были переправлены в столицу. Откушав померанцев (так тогда назывались апельсины), довольный самодержец сменил гнев на милость и вскоре выделил Одессе 250 тысяч рублей на городские нужды. Одесса продолжила свое развитие. Однако по другим источникам, сам де Рибас к этому делу уже не имел отношения, и это была инициатива самого одесского городского магистрата.
Память Хосе де Рибаса осталась и в названии главной и самой известной улицы Одессы - Дерибасовской, которая носит это имя с 1811 года. А в 1900 году, через сто лет после смерти адмирала в Одессе был торжественно открыт памятник императрице Екатерине II Великой, вокруг постамента которой разместились ее сподвижники – Григорий Александрович Потемкин, Платон Александрович Зубов, Франц де Воллан и сам Хосе де Рибас. Этот памятник был уничтожен большевиками в 1920 году, но вновь восстановлен в 2007.