В формальном подчинении Особого отдела находились все охранные отделения империи. Основная их масса была образована в 1902–1903 годах, к 1914 году их количество достигло шестидесяти. Все охранные отделения состояли из трех основных подразделений: канцелярии, отдела наружного наблюдения и агентурного отдела внутреннего наблюдения. Канцелярии занимались общей и секретной перепиской, получением секретных циркуляров и инструкций, а также пополнением картотечных алфавитов на неблагонадежных лиц. Отделы наружного наблюдения состояли из заведующего, участковых и вокзальных надзирателей, а также филеров, выполнявших наружное наблюдение. Агентурные отделы внутреннего наблюдения состояли из заведующего, его помощника, жандармских офицеров и секретных сотрудников, занимавшихся внутренним наблюдением.