В 1824 году, когда было наводнение в Санкт-Петербурге, он стоял на балконе с императором Александром I. Он сбросил с себя плащ, доплыл до лодки и спасал весь день народ вместе с военным губернатором Санкт-Петербурга М. А. Милорадовичем. В 1832 году он возведен в графское достоинство Российской империи.
Его родной сестрой была Д. Х. Ливен – знаменитая "светская львица" первой половины XIX века, тайный агент русского правительства в Лондоне и Париже, которая вошла в историю как "первая русская женщина-дипломат".
Император Николай I, весьма расположенный к Бенкендорфу после его активного участия в следствии по делу декабристов, назначил его 25 июня 1826 года шефом жандармов, а 15 июля 1826 года – главным начальником III Отделения Собственной Его Императорского Величества канцелярии и командующим Главной Его Императорского Величества квартирой. Высшая полиция и жандармская часть соединялись под начальством одного лица. Граф Бенкендорф оставался главным начальником Отделения до самой своей смерти 15 сентября 1844 года.
В основании Отделения сыграли важную роль, с одной стороны, политические события того времени (и прежде всего восстание декабристов), а с другой, – убеждение императора в могуществе административных воздействий не только на государственную, но и на общественную жизнь. Исполнительными органами III Отделения были учреждения и воинские части Отдельного корпуса жандармов. Таким образом в 1827–1917 годах в России существовал Отдельный корпус жандармов, выполнявший функции политической полиции.
III Отделение состояло из 5 экспедиций, общего архива, 2 секретных архивов и типографии.
– 1-я экспедиция – секретная, ведала наблюдением за революционными и общественными организациями и деятелями, проводила дознания по политическим делам, составляла для императора ежегодные "Отчеты о действиях" – обзоры общественного мнения и политической жизни страны,
– 2-я экспедиция осуществляла надзор за религиозными сектами, а также собирала сведения об изобретениях, фальшивомонетчиках, заведовала Петропавловской и Шлис-сельбургсиой крепостями,
– 3-я экспедиция вела наблюдение за проживающими в России иностранцами, собирала сведения о политическом положении, революционных партиях и организациях зарубежных государств,
– 4-я экспедиция собирала сведения о крестьянском движении и о мероприятиях правительства по крестьянскому вопросу, обо всех происшествиях в стране, о видах на урожай,
– 5-я экспедиция ведала цензурой и наблюдала за периодическими изданиями.
Таким образом, III Отделение занималось сыском и следствием по политическим делам, осуществляло цензуру, боролось со старообрядчеством и сектантством, расследовало дела о жестоком обращении помещиков с крестьянами. Чиновник III Отделения должен был следить за потенциально возможными беспорядками и злоупотреблениями во всех частях управления и во всех состояниях и местах. Всем ведомствам было предписано немедленно удовлетворять все требования чиновников, командируемых III Отделением. Чиновникам предписывалось действовать мягко и осторожно; замечая незаконные поступки, они должны были "сначала предварять начальных лиц и тех самых людей и употребить старания для обращения заблудших на путь истины и затем уже обнаружить их худые поступки пред правительством". Своим неограниченным и нередко произвольным вмешательством в самые различные дела III Отделение скоро стало для общества предметом недоверия и страха.