Сценарий будущей «Операции "Ы"..» назывался «Несерьёзные истории» и включал в себя две новеллы, объединённые одним героем — студентом Владиком Арьковым. В первой он перевоспитывал великовозрастного грубияна и тунеядца, а во второй готовил к поступлению в институт оболтуса Илюшу, мечтавшего уехать от родителей куда подальше. Режиссёр Леонид Гайдай внёс значительные правки — так появились новеллы «Напарник», «Весеннее наваждение», сюжет которой был взят из польского юмористического журнала, и дописанная специально под Вицина, Моргунова и Никулина «Операция «Ы».
На роль Владика пробовалось огромное количество актёров, среди которых были: Евгений Жариков, Владимир Коренев, Александр Збруев, Виталий Соломин, Евгений Петросян и другие. Режиссёру порекомендовали попробовать ленинградского актёра Александра Демьяненко, и Гайдай поехал в Ленинград. Оттуда он привёз не только «Шурика», но и «Верзилу» из первой новеллы — Алексея Смирнова. Худсовет колебался между кандидатурами Демьяненко и Валерия Носика, но в результате остановил свой выбор на первом.
Владика переименовали в Шурика по настоянию коллег Гайдая. Во избежание неприятностей они советовали сменить имя герою, так как Владиками тогда называли не только Владиславов, но и Владленов, а это имя получилось от сокращения «Владимир Ленин». Тогда главного героя решили назвать Шуриком, тем более, что на роль уже рассматривали Александра Демьяненко.
Название для фильма придумал член худсовета режиссёр Иван Пырьев. Он дал положительную оценку отснятому материалу, но был категорически настроен против Евгения Моргунова.
Режиссёр пришёл в восторг от новеллы «Весеннее наваждение», а вот впечатление от двух других было подпорчено: «В комедии главное — чёткость и тактичность в поведении. Но иногда этой тактичности исполнения и не хватает. Вот Моргунов. Он не смешон, а часто неприятен», «Я считаю, что надо кончать снимать Моргунова и Пуговкина. Они не интересны и надоели…»
Худсовет и цензоры получившуюся комедию приняли прохладно. Создателей фильма обвиняли в насмешке над милицией, которая не смогла перевоспитать хулигана, и над… народами Африки в виде завернутого в рулон обоев Феди с измазанным сажей лицом. Придрались и к мышке, падающей в обморок от хлороформа. Режиссёру сказали, что это «неэтично», но так как объяснить, что именно неэтично, не смогли — мышь осталась.
У зрителей же комедия стала невероятно популярным фильмом — её посмотрели 70 миллионов человек. «Операция Ы» стала первой советской комедией, которая имела такой кассовый успех!