Муталибов поддержал ГКЧП, поскольку Москва ввела в Армении чрезвычайное положение и добилась освобождение пленных солдат СА. Однако уже 20 августа, когда чаша весов склонилась в пользу Б. Ельцина, Народный Фронт Азербайджана выступил против путчистов. В результате победы Ельцина Муталибов и Азербайджан лишились поддержки центра и остались один на один с проблемой Карабаха. В это время, воспользовавшись неразберихой в Москве, Гейдар Алиев наконец-то смог вернуться в Нахичевань, где сразу же стал председателем ВС. Это пост автоматически сделал его заместителем председателя Верховного Совета Азербайджана.
Сразу после путча армия и внутренние войска самоустранились от участия в карабахском конфликте. Вместо этого они занялись торговлей оружием, продавая его обеим воюющим сторонам. Теперь боевые действия на стороне Азербайджана вели только подразделения Народного Фронта, которые не подчинялись Муталибову. Уже 2 сентября в Степанакерте была принята декларацию о независимости Нагорно-Карабахской Республики в границах НКАО и Шаумянского района. В ответ на это азербайджанцы начали обстреливать Степанакерт из систем «Алазань», а затем и «Град». Однако какого-либо влияния на ход боевых действий это обстрелы оказать не смогли. Более того, базировавшийся там 366-й армейский полк, страдавший от постоянных обстрелов, перешел на сторону армян. Москва сделала разворот на 180 градусов и поддержала Армению. В результате, оставшись без поддержки советской армии, в течение месяца азербайджанцы потеряли Шаумяновский район.
Муталибов пытался разговаривать с Москвой, он провел переговоры с Ельциным и подписал совместное коммюнике по карабахской проблеме в Железноводске. Но НФАЗ не согласился на условия Москвы и решил продолжить войну, не желая уступать Карабах армянам. 10 ноября 1991 г. НКР объявила о присоединении к Армении, а спустя чуть более двух недель в Баку было принято решение об упразднении Нагорного Карабаха как автономного образования в составе Азербайджана.