Писатель родился 18 июля 1925 года в городе Аулие-Ата (ныне Тараз в Казахстане). Окончив 7 классов, пошёл работать учеником монтера на хлопкоочистительный завод в Намангане и поступил в сельскохозяйственный техникум.
В 1942 году, добровольцем, Анатолий и девять мальчишек из техникума пошли в военкомат проситься на фронт, где их направляют учиться в Харьковское истребительно-противотанковое артиллерийское училище, которое было эвакуировано в Фергану. Как-то выстроили на плацу и спросили: "Кто в выпускной дивизион, шаг вперед!". И Ананьев, не раздумывая, шагнул первым! Через месяц ему присвоили звание младшего лейтенанта и отправили на фронт. Первые 100 новобранцев, в числе которых был и Анатолий, прибыли на место расположения. Через пять дней началась Курская битва, которая стала боевым крещением будущего писателя. После трех дней этого сражения от полка осталась в живых треть. За этот бой Анатолию Ананьеву вручили за личный подвиг в его неполные 18 лет солдатскую медаль "За отвагу". События и переживания этого времени найдут отражение на страницах романа "Танки идут ромбом" (1963). Потом был памятный тяжелый ночной бой по освобождению концлагеря Озаричи в Калинковичском районе Гомельской области Белоруссии. В этом бою Ананьев был тяжело ранен, девять месяцев пролежал в госпиталях в Иркутске и в Чите и снова на фронт. День Победы встретил в городе Пургшталь (Австрия) и в декабре 1945 г. 20-летний Ананьев, израненный и контуженный, возвратился домой.
В 1950 году он поступает в Алма-Атинский университет на филологический факультет. Решающим моментом при зачислении Ананьева в университет стала его экзаменационная работа по литературе на вступительном экзамене. Им был написан рассказ об эпизоде его фронтовой жизни - "Встреча с немецким солдатом лицом к лицу". Дальнейшая судьба была для него решена: он будет писать.
В 1959 году в своей повести "Малый заслон" Анатолий Ананьев, досыта хлебнувший огненных страстей боя в Великой Отечественной войне, талантливо рассказал миллионам советских людей, что защищал каждый наш человек в этой войне, принимая муки и смерть. Это произведение становится заметным явлением в ряду произведений военной прозы. Обращение к теме "человек на войне" получило наиболее яркое воплощение в романе "Танки идут ромбом", где художественно отображены события, происшедшие на одном из участков Воронежского фронта в первые дни Курской битвы. Писатель с большой эмоциональной силой, с вершины нашего Сегодня, рассказывает о том, что он видел и пережил на восемнадцатом году своей жизни. Суровый показ фронтового быта он талантливо сочетает с глубоким осмыслением описываемых событий. Герой романа (во многом автобиографический) лейтенант Володин познает многое, впервые не по книгам понимает, что такое война и что такое Родина.
Герой Социалистического Труда (с 1984), в годы "перестройки" Ананьев примыкает к группе реформаторов, в том числе, как главный редактор (с 1973) журнала "Октябрь". С этого времени журнал приобретает выраженный "предперестроечный" характер, о чем свидетельствует резкое изменение тематики произведений. Это было тем более знаменательно, что Ананьев в советские годы занимал видные посты секретаря правления СП СССР, депутата Верховного Совета, а затем — народного депутата СССР, заместителя председателя Советского комитета защиты мира.
В 1975-1984 гг. Ананьев публикует 4 книги романа с подчеркнутым названием "Годы без войны". Создаваемые им человеческие характеры современны, психологически убедительны. Произведения Ананьева построены на тяжёлых эмоциональных и моральных переживаниях героев, вставших перед лицом серьёзных проблем.
Память о войне пронизывает и произведения Ананьева на мирные темы: романы "Межа" (1969), "Версты любви" (1971). Проблемы, которые ставит А. Ананьев, лауреат Государственной премии РСФСР имени М. Горького в 1978 году за произведение "Версты любви", тесно связаны с жизнью нашего общества.
В начале 1990-х Ананьев создает 2 романа о противоречиях сегодняшней жизни – "Скрижали и колокола" (1990), а также исторический роман об эпохе Ивана Грозного — "Лики бессмертной власти" (1993). Далеко выходящий за рамки одного только XVI в., роман обращен к исследованию самой природы тирании. Он посвящен одной из сложнейших эпохе в российской истории и не менее сложной и противоречивой фигуре - царю Ивану Грозному. Вечные проблемы - власть и общество, власть и нравственность, власть и религия, человек в мире - писатель рассматривает в романе через призму сложных взаимоотношений и размышлений исторических реальных персонажей. За выдающиеся достижения на литературном поприще А. А. Ананьеву присвоено звание Героя Социалистического Труда. Он награжден орденами Ленина, Октябрьской Революции, двумя орденами Трудового Красного Знамени, орденами Отечественной войны I и II степени, "Знак Почета", медалями "За отвагу", "За взятие Вены", "За победу над Германией", "За трудовое отличие".