Автор известных картин «Трубачи Первой конной», «Тачанка», «В отряд к Буденному» и др.
Учился в Одесском художественном училище (1898-1903) затем в Петербургской академии художеств (1903–1911). Ученик И. Е. Репина и Ф. А. Рубо. В первую мировую был призван в армию рядовым, три года находился на фронте.
В период Гражданской войны, служа в коннице С. М. Буденного, одним из первых обратился к отображению ее эпизодов в живописи. За полтора десятилетия (1918–1934) создал около 300 картин, запечатлев в них боевой путь 1-й Конной армии и образ народа, героически сражавшегося за новую жизнь.
Для картин Грекова характерны историческая достоверность, правдивое воссоздание атмосферы Гражданской войны, которую он воспринял всем своим существом.
С большим мастерством рисует художник батальные сцены, передает характер и динамику боя («Тачанка», «Кавалерийская атака», «Зимний поход Первой Конной», «Взятие Новочеркасска» и другие). Многие холсты Грекова отличаются тончайшим психологизмом («Корниловцы», «В отряд к Буденному», «Трубачи Первой Конной армии»). Греков был и большим мастером пейзажа, который придавал его картинам на военную тему художественную законченность («Бой под Егорлыкской», «Чертов мост», «На Кубань» и другие).
М. Греков возобновил в советском изобразительном искусстве творчество диорам и панорам. В 1929 г. он закончил диораму «Взятие Ростова». Смерть оборвала его работу над панорамой «Штурм Перекопа»
Живописи М.Б. Грекова свойственны искренность и простота. У Грекова основная тема – героические подвиги Красной Армии в Гражданскую войну. Многие художники впоследствии обращались к этой теме, но уже по материалам архивов и воспоминаний. А Греков создавал свои полотна на основе личного опыта.
После смерти М. Грекова (27.11.1934 г.) приказом Наркома обороны была создана студия художников имени Грекова. С 1966 по 1991 годы за лучшие произведения на военно-патриотическую тему ежегодно ко Дню Победы присуждалась одна золотая и три серебряных медали имени М.Б. Грекова.