Интересы Андрея Дмитриевича Сахарова уже тогда не ограничивались ядерной физикой. В 1955 году в числе многих других учёных подписал "письмо трёхсот", направленное 11 октября 1955 года в Президиум ЦК КПСС. Письмо содержало оценку состояния биологии в СССР к середине 1950-х годов, критику научных взглядов и практической деятельности Т. Д. Лысенко, являвшегося в то время одним из руководителей биологической науки в стране. В 1958 он выступил против планов Никиты Сергеевича Хрущева по сокращению среднего образования, а спустя несколько лет ему вместе с другими учеными удалось избавить советскую генетику от влияния Лысенко.
С конца 1950-х годов он активно выступал за прекращение испытаний ядерного оружия. Своё отношение к вопросу об оправданности возможных жертв ядерных испытаний и — шире — вообще человеческих жертв во имя будущего А. Д. Сахаров выразил так:
…Павлов [ Виталий Григорьевич Павлов, генерал госбезопасности] как-то сказал мне:
— Сейчас в мире идёт борьба не на жизнь, а на смерть между силами империализма и коммунизма. От исхода этой борьбы зависит будущее человечества, судьба, счастье десятков миллиардов людей на протяжении столетий. Чтобы победить в этой борьбе, мы должны быть сильными. Если наша работа, наши испытания прибавляют силы в этой борьбе, а это в высшей степени так, то никакие жертвы испытаний, никакие жертвы вообще не могут иметь тут значения.
Была ли это безумная демагогия или Павлов был искренен? Мне кажется, что был элемент и демагогии, и искренности. Важней другое. Я убеждён, что такая арифметика неправомерна принципиально. Мы слишком мало знаем о законах истории, будущее непредсказуемо, а мы — не боги. Мы, каждый из нас, в каждом деле, и в „малом“, и в „большом“, должны исходить из конкретных нравственных критериев, а не абстрактной арифметики истории. Нравственные же критерии категорически диктуют нам — не убий!
С конца 1960-х годов являлся одним из лидеров правозащитного движения в СССР. Находился под наблюдением КГБ с 1960-х годов, подвергался обыскам, многочисленным оскорблениям в прессе. В 1964 году Сахаров успешно выступил в Академии наук против избрания биолога Н. И. Нуждина академиком, считая его, как и Лысенко, ответственным за «позорные, тяжелые страницы в развитии советской науки». В 1966 году он подписал письмо «25 знаменитостей» к 23 съезду КПСС против реабилитации Сталина. По словам авторов письма, «в последнее время в некоторых выступлениях и в статьях в нашей печати проявляются тенденции, направленные, по сути дела, на частичную или косвенную реабилитацию Сталина». В связи с чем авторы послания сочли своим долгом накануне XXIII съезда КПСС довести до сведения Генерального секретаря ЦК КПСС Л. И. Брежнева своё мнение по этому вопросу.
В феврале 1967 Сахаров направил первое письмо Леониду Ильичу Брежневу в защиту четверых инакомыслящих. Ответом властей было лишение его одной из двух должностей, занимаемых на «объекте».
В 1968 году написал брошюру «Размышления о прогрессе, мирном сосуществовании и интеллектуальной свободе», которая была опубликована во многих странах. После публикации летом текста брошюры в «The New York Times» его отстраняют от работы на секретном объекте в Арзамасе-16 (города Саров, Нижнегородская область). 26 августа 1968 года, через пять дней после ввода советских войск в Чехословакию, Сахаров познакомился с Александром Солженицыным: тайно встретившись на квартире у академика Евгения Фейнберга, они обсуждали «Размышления…», уже имевшие широкое распространение в самиздате, и произошедшую накануне демонстрацию на Красной площади.
Тогда же начал публиковаться в New York Times (Сахаровские материалы перепечатывались и другими изданиями), призывая к установлению партнёрских отношений с США, обличая «сталинский террор», вторжение СССР в Чехословакию, политические репрессии в отношении инакомыслящих, лояльную к советскому режиму научную интеллигенцию и т. д.
В марте 1969 года скончалась жена Андрея Дмитриевича, оставив его в состоянии отчаяния, сменившемся затем длительным душевном опустошением. После письма И. Е. Тамма (в то время заведующего Теоретическим отделом ФИАН) президенту АН Мстиславу Всеволодовичу Келдышу и, по-видимому, в результате санкций свыше Сахаров был зачислен 30 июня 1969 года в отдел института, где начиналась его научная работа, на должность старшего научного сотрудника — самую низкую, которую мог занимать советский академик.
С 1967 по 1980 годы Андрей Сахаров опубликовал более 15 научных работ: о барионной асимметрии Вселенной с предсказанием распада протона (по мнению Сахарова, это его лучшая теоретическая работа, повлиявшая на формирование научного мнения в последующее десятилетие), о космологических моделях Вселенной, о связи тяготения с квантовыми флуктуациями вакуума, о массовых формулах для мезонов и барионов и др.
В эти же годы усилилась общественная деятельность Сахарова, которая все больше расходилась с политикой официальных кругов. Он инициировал обращения за освобождение из психиатрических больниц правозащитников Петpа Гpигорьевича Григоренко и Ж. А. Медведева. Во время одной из таких поездок в 1970 году в Калуге (процесс Б. Вайля — Р. Пименова) познакомился с Еленой Боннэр и в 1972 году женился на ней. Вместе с физиком В. Турчиным и Р. А. Медведевым написал «Меморандум о демократизации и интеллектуальной свободе». Ездил в Калугу для участия в пикетировании зала суда, где проходил процесс над диссидентами Р. Пименовым и Б. Вайлем.
В 1970 году стал одним из трёх членов-основателей «Московского Комитета прав человека» (вместе с Андреем Твердохлебовым и Валерием Чалидзе).
В 1970-х — 1980-х годах в советской печати проводились кампании против А. Д. Сахарова.
Духовный отщепенец, провокатор Сахаров всеми своими подрывными действиями давно поставил себя в положение предателя своего народа и государства. - «Комсомольская правда», 15.02.1980
29 августа 1973 года в газете «Правда» было опубликовано письмо членов Академии наук СССР с осуждением деятельности А. Д. Сахарова («Письмо 40 академиков»). 31 августа 1973 года в газете «Правда» опубликовано «Письмо писателей» с осуждением Сахарова и Солженицына.
В 1974 году Сахаров собрал пресс-конференцию, на которой сообщил о состоявшемся Дне политзаключённых в СССР.
В 1975 году написал книгу «О стране и мире». В октябре 1975 года Дмитрию Андреевичу была присуждена Нобелевская премия мира, которую получила его жена, лечившаяся за границей. Боннэр огласила собравшимся речь Сахарова, в которой содержался призыв к «истинной разрядке и подлинному разоружению», к «всеобщей политической амнистии в мире» и «освобождению всех узников совести повсеместно». На следующий день Боннэр прочитала Нобелевскую лекцию мужа «Мир, прогресс, права человека», в которой Сахаров доказывал, что эти три цели «неразрывно связаны одна с другой», требовал «свободы совести, существования информированного общественного мнения, плюрализма в системе образования, свободы печати и доступа к источникам информации», а также выдвинул предложения по достижению разрядки и разоружения.
В апреле и августе 1976 года, декабре 1977 года и начале 1979 года Андрей Сахаров с женой ездил в Омск, Якутию, Мордовию и Ташкент с целью поддержки правозащитников. В 1977 и 1978 годах дети и внуки Боннэр, которых Андрей Дмитриевич считал заложниками своей правозащитной деятельности, эмигрировали в США.
В сентябре 1977 года обратился с письмом в организационный комитет по проблеме смертной казни, в котором выступил за отмену её в СССР и во всём мире.
В декабре 1979 года и январе 1980 года выступил с рядом заявлений против ввода советских войск в Афганистан, которые были напечатаны на передовицах западных газет. В том же году Сахаров направил письмо Леониду Брежневу в защиту крымских татар и снятия секретности с дела о взрыве в московском метро.
За 9 лет до депортации в город Горький он получил сотни писем с просьбой о помощи, принял более сотни посетителей. В составлении ответов ему помогала адвокат С. В. Калистратова.