Служил четырём самодержцам.
Граф Алексей Аракчеев, согласно обнаруженной в 2017 году метрической книге, родился в имении Гарусово. Сегодня одноимённая деревня находится в Удомельском округе.
В 1783-1787 годах Алексей Андреевич проходил учёбу в артиллерийском кадетском корпусе. В 1787 году в чине поручика Аракчеев начал преподавать там математику и артиллерию. Здесь он составил учебное пособие «Краткие артиллерийские записки в вопросах и ответах».
В 1792 году Алексея Аракчеева перевели на службу в «гатчинские войска» великого князя Павла Петровича. В этот период он сделался любимцем наследника престола. После воцарения Павла I Алексей Аракчеев был назначен комендантом Петербурга, произведён в генерал-майоры, а также получил баронский титул. В 1797 году стал командиром лейб-гвардии Преображенского полка и генерал-квартирмейстером всей армии. В 1798 году император пожаловал ему титул графа с девизом «Без лести предан».
В том же году в артиллерийском арсенале была совершена кража. Граф Аракчеев пытался утаить от императора, что в день преступления караулом командовал его брат. В наказание Павел уволил его со службы. Только в 1803 году император Александр I принял генерала обратно, назначив его инспектором всей артиллерии и командующим лейб-гвардии Артиллерийским батальоном.
В 1803-1812 годах на посту инспектора артиллерии, а позже и военного министра Алексей Андреевич провёл ряд коренных преобразований в этом роде войск. Система Аракчеева заключалась в том, чтобы обеспечить русским артиллеристам доступ к последним достижениям техники и самостоятельность на поле боя.
В январе 1808 года Аракчеев был назначен военным министром. С этого момента его влияние при дворе неуклонно усиливалось вплоть до смерти Александра I. Новый министр за неполных два года увеличил армию на 30 тысяч человек, организовал запасные рекрутские депо, позволившие в 1812 году быстро пополнять действующие воинские части, также он навёл порядок в финансах и делопроизводстве.
В канун Отечественной войны 1812 года в составе Императорской главной квартиры он находился в Вильно. После начала военных действий Аракчеев вместе с госсекретарём адмиралом Шишковым и генерал-адъютантом Балашовым убедил Александра I покинуть действующую армию и вернуться в Петербург.
С августа 1814 года Аракчеев руководил созданием военных поселений, а в 1819 году стал главным начальником над ними. В феврале 1818 года граф по поручению императора составил проект постепенной отмены крепостного права. Согласно предложениям, государство должно было выкупать помещичьи имения по согласованным с владельцами ценам. Александр I одобрил проект, но реализован он не был.
В царствование Николая I за Аракчеевым сохранилось только командование Отдельным корпусом военных поселений. В апреле 1826 года он был отпущен в отпуск на воды. Находясь за границей, выпустил книгу с адресованными ему письмами Александра I. Тем самым вызвал гнев Николая I, который запретил ему появляться в столице.