Действие фильма, посвященного жизни иконописца Андрея Рублёва, охватывает четверть века. Он состоит из восьми новелл. Первая новелла — «Скоморох» — датирована 1400 годом, последняя — «Колокол» — 1423 годом.
Значительная часть фильма снята в Псковской области: в Пскове, Изборске и Печорах. Съёмки проходили и в Суздале, близ Спасо-Евфимиева монастыря. Сцена полёта на воздушном шаре была снята у церкви Покрова на Нерли.
Тарковский планировал включить в фильм новеллу о Куликовской битве с масштабными батальными сценами, но из-за проблем с бюджетом был вынужден отказаться от этого замысла.
Ролан Быков отказался от помощи танцмейстера при подготовке танца скомороха и подготовил его сам. Частушки скомороха в исполнении Быкова и музыка к ним также были написаны им самим. Когда актёр готовился к роли, он изучил вопрос, и оказалось, что подлинные частушки того времени сплошь содержат ненормативную лексику.
Анатолий Солоницын молчал четыре месяца, чтобы во время съёмок эпизода снятия обета молчания голос звучал осипшим.
В 1967 году состоялась ограниченная премьера. Фильм вызвал у кинематографического начальства смешанные чувства. Авторов обвинили в пропаганде насилия и жестокости. Фильм был перемонтирован и сокращён.
Герои фильма изъясняются на современном русском языке, в речи то и дело звучат такие анахроничные для XV века слова, как «артель», «интересно», «материал» и «секрет». Парируя обвинения в искажении исторической реальности, Тарковский обосновывал «отступления от правды археологической и этнографической» стремлением воссоздать картину русского средневековья для современного зрителя таким образом, чтобы оно не превращалось в условную живописную стилизацию с привкусом «памятниковой» музейной экзотики.
Сегодня некоторые авторы объявляют фильм «Андрей Рублёв» примером «православного творчества». Сам Тарковский уходил от прямого ответа на вопрос о его религиозных взглядах и выражал недовольство тем, что западная пресса сближала его размышления о духовной свободе с темой религии или, по его выражению, «церковности».