Михаил Ефремов родился 10 ноября 1963 года в городе Москва. Мальчик вырос в творческой театральной семье. Отцом являлся народный артист России Олег Ефремов, поэтому, как и стоит полагаться ребенок вышел на сцену в юном возрасте. Свою первую роль получил в Московском художественном академическом театре, в спектакле «Уходя, оглянись!». Одноименный фильм стал и одной из первых проб Ефремова-младшего в кино, наряду с картиной «Дни хирурга Мишкина».
Известность пришла к нему также рано. Девочки всей страны влюбились в него после фильма «Когда я стану великаном», вышедшего на экраны в 1978 году. Через два года появилась картина «Однажды двадцать лет спустя». После этого в карьере актера произошел недолгий перерыв.
Высшее театральное образование Михаил Ефремов получил в Школе-студии МХАТ. Но уже после первого курса его призвали в армию. После службы продолжил обучение на курсе Владимира Богомолова, а по окончании учебы в 1987 году возглавил театр-студию «Современник-2», в котором играли Никита Высоцкий, Вячеслав Невинный-младший и Мария Евстигнеева.
Вскоре труппа распалась и Ефремов-младший перешел к отцу, в Московский художественный академический театр, на родную сцену, которая помнила его еще ребенком. Здесь актер играл восемь лет. Однако, стоит отметить, что эти годы работы оказались полны разногласий и конфликтов с отцом. Это и стало причиной ухода Михаила, но сам неоднократно вспоминал, что эта школа преподнесла ему очень много бесценных уроков.
С конца 1980-х годов Михаил Ефремов активно снимался в кино. Всероссийская известность пришла к нему после выхода сериала «Граница», снятого в 2000 году режиссером Александром Миттой. После этого артист все чаще стал появляться на экранах, снимаясь в телепроектах «Каменская», «Романовы. Венценосная семья», «Антикиллер».
Все больше раскрывался комедийный дар актера. Неудивительно, что каждая новая роль чаще всего оказывалась юмористической. Его персонажи в фильмах «Супертеща для неудачника», «Заяц над бездной», «День выборов» сразу полюбились зрителям. В 2009 году актер примерил на себя новую роль: роль ведущего. С этого времени работал в телепрограмме «Жди меня» на Первом канале. Кроме того, Михаил Олегович известен по проекту «Гражданин поэт», в эфире радиостанции «Эхо Москвы», где читал стихи Дмитрия Быкова. В марте 2013 года на телеканале «Дождь» стартовал новый проект, в котором участвует Михаил Ефремов, «Господин хороший».