В начале шестидесятых годов Демьяненко был крайне востребован в кино. Первый же «ленинградский» фильм с его участием — «Порожний рейс» (1962) — получил второй приз на Московском кинофестивале. В это время актер играл две-три большие кинороли в год.
Судьбоносным в карьере и жизни Александра Демьяненко стал 1964 год. На роль подрабатывающего на стройках студента Эдика в фильме «Несерьезные истории» пробовался весь цвет советской комедии: Сергей Никоненко, Александр Збруев, Валерий Носик и даже молодой Евгений Петросян. Велись переговоры и с Андреем Мироновым. Но Леонид Гайдай, всегда доверявший интуиции, медлил. Говорили, что режиссер вспомнил о парне, сыгравшем в «Карьере Димы Горина» и сам отправился на поезде в Ленинград. Эксцентричный и искрометный на публике, но закрытый и молчаливый в жизни, Гайдай нашел в Демьяненко больше, чем подходящего артиста, — свое второе «я». Так Эдик стал Шуриком и начались съемки фильма, которому предстояло стать визитной карточной Демьяненко — «Операция «Ы» и другие приключения Шурика».
Актер вспоминал, что сразу поверил и в успех картины, и в режиссерское распределение. «Мне не пришлось играть Шурика, — говорил он, — просто существовал в предлагаемых обстоятельствах. Мы с Шуриком были похожи в отношении к жизни, к людям…» Однако большой радости от нового амплуа Демьяненко не испытывал. На площадке мешали общей работе его нелюдимость, критический взгляд на новых людей: «Я и с Алексеем Смирновым, игравшим громилу Федю, избегал общения. Он казался мне человеком неуправляемым, капризным, даже завистливым, с очень специфическим пониманием доброты. Не монтировались мы и с Моргуновым. С Никулиным и Вициным контакта тоже не получалось, потому что они гораздо старше, у них другие интересы, взгляд на актерство», — рассказывал Демьяненко.
Комедия «Операция «Ы» и другие приключения Шурика» вышла на экраны в 1965 году и стала лидером советского проката. В кинотеатрах фильм посмотрели 69,6 миллиона зрителей, то есть каждый четвертый житель СССР. Еще больший успех имела следующая совместная работа Демьяненко и Гайдая — «Кавказская пленница» (1967). Комедию увидели 76,5 миллиона человек.
Билеты на сеансы распродавались за несколько дней вперед, а Александр Демьяненко стал не просто известным актером, а всенародным любимцем — к нему обращались как к давнему знакомому, вечно совали бумажки для автографов, угощали в пивных и кафе. В год выхода «Кавказской пленницы» Демьяненко исполнилось 30 лет.
Неофициальным экранным продолжением образа Шурика стала комедия «Иван Васильевич меняет профессию» (1973), где Демьяненко снова сыграл решительного чудака, эдакого вечного студента.
После громкого успеха Александра Демьяненко в нем что-то сломалось: нелюдимость стала почти болезненной, он все больше тяготился выходом на публику. Тяжелый период принес и перемены личного характера: Демьяненко ушел от Марины Скляровой и женился на Людмиле Неволиной, ассистентке дубляжа с «Ленфильма», с которой и прожил до конца жизни. Третьей «женой» для Демьяненко была машина — он всегда с большим удовольствием проводил время в гараже
