Текущая конфигурация каскада гидроэлектростанций на Волге сложилась далеко не сразу. Изначально (вплоть до конца 1920-х годов) возможное гидротехническое строительство на Волге рассматривалось главным образом как средство для обеспечения судоходства. Отдельно выделялся проект ГЭС в районе Самары, где река делает большую излучину, что благоприятствовало строительству крупной гидроэлектростанции. Проработки строительства Самарской ГЭС велись практически без перерывов с 1919 года, причем помимо чисто "бумажной" работы проводились геодезические, гидрологические и геологические изыскания.
В план ГОЭЛРО ГЭС на Волге включены не были, что объяснялось отсутствием проектных проработок. Масштабные работы по определению облика Волжского каскада были начаты в 1931 году, когда Президиум Госплана СССР решил организовать постоянное совещание по проблеме “Большой Волги”, состоящее из представителей заинтересованных организаций. Каскад изначально рассматривался как комплексный, решающий в первую очередь задачи водного транспорта, ирригации и энергетики.
Наиболее интенсивная проработка схемы “Большой Волги” проводилась в 1931–1937 годах. Было проработано множество вариантов реконструкции реки, постоянно менялось количество входящих в схему гидроузлов и их параметры. Проводились сотни заседаний, а общий объем рассмотренных проектных предложений превысил 600 томов!
В 1934 году экспертная комиссия согласовала каскад в составе уже строящегося Иваньковского гидроузла, а также перспективных Мышкинского, Калязинского, Ярославского, Василевского, Самарского и Камышинского гидроузла. Гидроэлектростанции каскада планировались низконапорными, с обеспечением судоходных глубин 3-3,5 м, без существенных возможностей регулирования стока и суммарной выработкой электроэнергии всего около 4 млрд кВт.ч в год. По этой схеме начали подготовительные работы по сооружению Ярославского гидроузла.
Очень быстро проект Ярославского гидроузла стал критиковаться как неэффективный. Госплан поручил изучение вопроса группе проектировщиков Управления строительства канала Москва — Волга НКВД СССР, которые предложили радикально переработать верхнюю часть каскада. Вместо Мышкинского, Калязинского и Ярославского гидроузлов в схеме появились Угличский и Рыбинский гидроузлы с гораздо более мощными ГЭС и более крупными водохранилищами. В 1935 году строительство Ярославской ГЭС было прекращено, и начато возведение Угличской и Рыбинской ГЭС.
После этого был произведен пересмотр всего каскада. Согласно новой концепции, предлагалось создавать гидроузлы с напором не менее 15 м и крупными регулирующими водохранилищами, подпирающими друг друга. Новая схема, утвержденная в 1936 году, предусматривала возведение, помимо уже строящихся станций, также Балахнинского, Чебоксарского, Самарского и Камышинского гидроузлов. Общая выработка электроэнергии возрастала до 27 млрд кВт.ч, а судоходные глубины - до 5 м. Эта схема и была в итоге реализована с одним существенным изменением - в конце 1940-х годов вместо Камышинского гидроузла было решено построить две другие станции - Саратовскую и Волжскую ГЭС.