Гостиные ряды расположены у юго-западной оконечности Советской (бывшей Базарной) площади Рыльска. Ряды были построены ориентировочно в начале XIX века купцами из рода Латышевых и, соответственно, исторически связаны с представителями этой купеческой фамилии.
Купцы Латышевы, по указанию рыльских краеведов, занимались в городе торговлей и строительством, а также активно участвовали в общественно-политической жизни. Один из представителей фамилии – Алексей Андреевич Латышев на собственные средства в 1906 году учредил богадельню для стариков при Кирпичном кладбище, а его супруга – Анна Семеновна безвозмездно отдала один из купеческих домов под размещение приюта для мальчиков и пожертвовала большие деньги на содержание воспитанников.
Другой представитель рода – Анатолий Павлович Латышев в период конца XIX – начала XX веков избирался в Рыльскую городскую думу и даже становился на некоторое время главой города Рыльска.
В числе прочих Латышевым принадлежал двухэтажный дом (расположенный по современному адресу Советская пл., 19), что был выстроен во второй половине XIX века к северо-востоку от гостиных рядов, на противоположной стороне площади. По состоянию на начало XX века указанный дом принадлежал Павлу Ивановичу Латышеву; на первом этаже данного здания работали два магазина «с массивными металлическими дверями», второй этаж – являлся жилым. По сведениям из архивных источников установлено, что в конце 1910-х – начале 1920-х годов на территории домовладении П.И. Латышева проживали его сын – уже упомянутый Анатолий Павлович и дочь – Александра Павловна.
Протяженное (без малого 100 метров в длину) двухэтажное сооружение гостиных рядов Латышевых преимущественно использовалось в качестве складов. На плане Базарной площади, составленном в начале 1870-х годов, данные ряды были обозначены как строение «Мучных амбаров и щепных лавок». В конце XIX – начале XX веков первый этаж рядов был определен для хранения овощей и фруктов, а второй – заполнялся зерном. Причем из-за специфики рельефа местности с западной стороны строения имелись заезды непосредственно на верхний этаж.
Зерно купцы Латышевы поставляли как на внутрироссийский, так и на международный рынок. Часть складских помещений в гостиных рядах сдавалась владельцами в аренду.
В постреволюционный период гостиные ряды перешли в ведение рыльского «Заготзерна», а во второй половине XX века – оказались заняты магазинами.
По состоянию на начало XXI века строение рядов находилось на реставрации, а в настоящее время оно фактически не используется городом. Кроме того, 2020 году была произведена и реставрация участка Советской площади к востоку от сооружения: здесь была оборудована зона отдыха, состоящая из ступеней-скамеек и прогулочных дорожек, а у края проезжей части были установлены деревянные павильоны.
Гостиные ряды, построенные купцами Латышевыми, не только служат одним из характерных напоминаний о славном торговом прошлом Рыльска, но и являются неотъемлемым архитектурным элементом облика исторической части города.