«Дом Филимонова», расположенный в центре города Рыльска, находится в северо-восточной части пересечения улиц Ленина (бывшей Преображенской) и Дзержинского (бывшей Архангельской).
Данный дом, возводившийся по подобию столичных дворянских особняков, был выстроен в достаточно краткий срок, ориентировочно во второй половине XIX века. Архитектором, возглавлявшим строительство, выступил Карл Густавович Шольц (1836/37 – 1907/08). К.Г. Шольц в Курской губернии был более всего известен тем, что в 1870-х годах он осуществил перестройку дворца в усадьбе Марьино, принадлежавшей князьям из рода Барятинских (дворцово-парковый ансамбль Марьино находится менее, чем 20 км к востоку от Рыльска).
Выстроенный в Рыльске «Дом Филимонова» изначально имел богатую отделку фасадов с гипсовым декором; причем в данном декоре К.Г. Шольцем были повторены отдельные мотивы, использованные в оформлении Марьинского дворца. Юго-западный угол здания (обращенный непосредственно к перекрестку) был срезан по диагонали. Сегмент строения, образованный данным конструктивным приемом, имел на уровне второго этажа оконный проем, увенчанный гипсовой композицией с двумя фигурами. А на крыше, на том же углу дома, была обустроена смотровая площадка с ограждением, куда вела до сих пор сохранившаяся внутри здания винтовая лестница.
Исторически данный дом был связан с фамилией богатейших рыльских купцов – Филимоновых. Из архивных источников следует, что по состоянию на начало 1900-х годов домовладение, в составе которого находился усадебный дом, принадлежало купцу 1-й гильдии и потомственному почетному гражданину Рыльска – Петру Васильевичу Филимонову (1847-1910). В состав купеческой городской усадьбы Петра Васильевича, в числе прочих построек, также входили два строения, являющиеся на данный момент объектами культурного наследия: ОКН РЗ «Флигель усадьбы Филимонова» (ул. Ленина, 63-а), расположенный к северу от «Дома Филимонова»; ОКН РЗ «Торговая лавка» (ул. Дзержинского, 28) – к востоку от «Дома Филимонова». Дворовое пространство довольно обширного домовладения было занято амбарами, конюшнями и хозяйственными постройками; по периметру усадьбу окружала высокая кирпичная ограда.
В советское время «Дом Филимонова» перешел в общественное пользование. В 1970-е годы он являлся зданием Рыльского районного управления сельского хозяйства. А с конца XX века и вплоть по настоящее время в доме размещается «Рыльская детская школа искусств» (основанная в 1959 году). Внутри дома до сих пор сохраняются некоторые элементы дореволюционной купеческой отделки.
Изысканно декорированное здание «Дома Филимонова», стоящее на одном из центральных перекрестков Рыльска, является как украшением городской застройки, так и свидетельством торгово-купеческого прошлого этого провинциального города.