После «Кавказской пленницы» Леонид Гайдай задумывал уйти от комедии и экранизировать пьесу «Бег» Михаила Булгакова. Однако руководство советской кинопромышленности ответило режиссеру категоричным отказом.
В 1971 году на киноэкраны Советского Союза вышла очередная экранизация за авторством Гайдая – «12 стульев». После сдачи картины Леонид Иович вновь решил вернуться к Булгакову. К тому времени «Бег» уже был блестяще экранизирован Александром Аловым и Владимиром Наумовым. Тогда Гайдай выбрал для экранизации впервые изданную в 1965 году булгаковскую пьесу «Иван Васильевич».
В 1936 году пьесу начали ставить в Театре сатиры, однако после просмотра генеральной репетиции, чиновники запретили постановку к показу. Саму пьесу о приключениях Ивана Грозного в современной Москве издали только спустя тридцать лет. Ее практически сразу поставили в Театре-студии киноактера.
В конце лета 1971 года Гадай совместно с Владленом Бахновым подали заявку на сценарий по мотивам пьесы. Утвердили уже готовый сценарий в мае следующего 1972 года. Писали его под Юрия Никулина. Режиссёр был уверен, что Юрий Владимирович справится с двумя абсолютно разными ролями - царя Ивана Грозного и управдома Буншу. Однако артист от роли отказался. То ли из-за занятости в цирке, то ли из-за опасений, что картину по пьесе Булгакова положат на полку.
После проб нескольких актеров на главную роль Гайдай выбрал Юрия Яковлева. По первоначальной задумке, Жоржа Милославского в связке с Никулиным должен был сыграть его коллега по «Бриллиантовой руке» Андрей Миронов. Однако, после утверждения Яковлева Гайдай стал искать нового актера. Наибольшее впечатление на режиссера произвёл Леонид Куравлев.
Александр Демьяненко участвовал в кинопробах на роль инженера Тимофеева на равных вместе с Олегом Видовым и Валерием Погорельцевым. После его утверждения, в честь Демьяненко персонаж, звавшийся у Булгакова Николаем Ивановичем, был переименован в Александра Сергеевича (Шурика). На роль жены Тимофеева Гайдай взял Наталью Селезневу - вместе с Демьяненко они были замечательной парой в «Операция «Ы» и других приключениях Шурика». Без проб достались роли Наталье Крачковской, Владимиру Этушу и Михаилу Пуговкину. Также в картине снялись: Сергей Филиппов, Савелий Крамаров, Наталья Кустинская.
Начались съемки в августе 1972 года в Ростове Великом. «Древнерусскую» и современную часть фильма снимали в павильонах «Мосфильма» и на улицах столицы. Видеоклип к песне «С любовью встретиться» - в Ялте в последнюю очередь - уже в начале следующего года. Любопытный факт: царский наряд для Ивана Грозного художники по костюмам позаимствовали из картины «Иван Грозный» Сергея Эйзенштейна. Для героини Селезнёвой костюмы шил молодой модельер Вячеслав Зайцев.
На приёмке в «Мосфильме» к картине не сильно придирались, но на стадии монтажа и озвучания «Иван Васильевич» все же подвергся цензурным правкам. В частности, во время сцены допроса Ивана Грозного в милиции, на вопрос о месте жительства царь отвечает: «В палатах». В оригинале же по замыслу Гайдая звучало: «Москва - Кремль». Переозвучили и фразу Бунши в эпизоде обращения к шведскому послу: вместо «Мир, дружба!» получилось «Гитлер капут». В общей сложности фильм был обрезан на 177 метров плёнки. Вообще, Гайдай славился мастерством монтажа. Именно на монтажном столе он доводил до совершенства комедийный ритм каждой своей картины.
Существует усечённая короткометражная версия фильма под названием «Чёрные перчатки». Она выпускалась на бобине с восьмимиллиметровой плёнкой и её можно было купить для домашнего просмотра. В 11-минутной короткометражке показана сюжетная линия, связанная с Милославским. На плёнку попали фрагменты, которых не было в полнометражном фильме.
Автором музыки традиционно стал Александр Зацепин. Слова к трем песням, звучавшим в фильме, также по традиции написал Леонид Дербенев. Примечательно, что в «Иване Васильевиче» используются еще две песни за другим авторством. Так, звучащая из магнитофона песня, на который случайно присаживается Иван Грозный, была записана Владимиром Высоцким специально для фильма. Песня «А не силная туча затучилася...» об очередном нашествии крымских татар, которую исполняют гусляры, была написана в конце XVI — начале XVII века.
В июне 1973 года «Ивану Васильевичу» присудили первую категорию и 21 сентября картина вышла в широкий прокат. За год проката фильм посмотрели 60 млн 700 тыс. зрителей. Фильм, что называется, ушел в народ и был разобран на цитаты, которые стали частью повседневной речи.