Минская мужская гимназия существовала с 1803 по 1920 г., хотя она являлась преемником учебного заведения, открытого еще в XVII в. орденом иезуитов на территории Речи Посполитой. В 1773 г. после расформирования ордена иезуитский коллегиум был преобразован в светскую 6-классную школу. После присоединения Минска к Российской империи в 1793 г. заведение неоднократно меняло свое название. В 1803 г. указом императора Александра I школа получила наименование Минской мужской гимназии. Именно этот год официально считался датой основания школы.
Первоначально гимназия имела 6 классов обучения и 6 учителей. В 1804-1805 учебном году учительский штат был увеличен на одного учителя, что позволило открыть 7-й класс. В тот время большинство учеников составляли представители шляхты. Новое здание школа получила в 1844 г. на Губернаторской улице (сейчас Ленина).
Накануне Мировой войны в гимназии насчитывалось 8 основных классов, 1 приготовительный и 8 параллельных (при каждом классе действовало параллельное отделение). Иногородним ученикам предоставлялись ученические квартиры.
К 1914 г. состав гимназистов был довольно демократическим и многоконфессиональным. Из 643 учащихся 357 происходили из семей дворян и чиновников, 129 – из мещан и цеховых, 72 – из крестьян, 47 – из семей почетных граждан и купцов, 31 – из семей священнослужителей, 1 – иностранный подданный, 6 – прочие. Из них 419 чел. исповедовали православие, 121 – римо-католичество, 7 – иные христианские конфессии, 78 – иудаизм, 18 – ислам.
30 апреля (13 мая) 1915 г. по указу императора Николая II гимназии было присвоено его имя, после чего она стала называться Минской Императора Николая II мужской 8-классной гимназией.
В августе 1915 г. в период Великого отступления командующий Минским военным округом Е.А. Рауш фон Траубенберг распорядился передать здание гимназии штабу Западного фронта. В сентябре в связи с приближением театра военных действий к Минску учебное заведение было эвакуировано в Москву. В эвакуации гимназия продолжала свою работу без приготовительного и параллельных классов. Количество учеников резко сократилось. В начале августа 1917 г. в списках гимназии числилось всего 107 чел. Занятия проходили в помещениях Педагогического института имени П.Г. Шелапутина. Часть имущества гимназии осталась в Минске под присмотром ее работников.
В начале 1918 г. штаб Западного фронта прекратил свое существование. В феврале 1918 г. Минск был занят немецкими войсками. Здание гимназии заняла германская комендатура.
В августе 1918 г. по ходатайству Белорусского национального комиссариата в Москве с разрешения центральных советских властей и немецкой военной администрации 10-й армии школа возвратилось в Минск, но здание ей не вернули. Гимназия разместилась на условиях аренды в одном доме с Минской частной женской Алексеевской гимназией Е.Д. Рейман. Она сохранила за собой статус казенного учебного заведения, но финансирования из казны не имела. Несмотря на эти обстоятельства, заведение смогло возобновить свою работу в полном составе – 900 учеников в 1 приготовительном классе, 8 основных классах и 8 параллельных отделениях.
После установления советской власти гимназия с мая 1919 г. была преобразована в 4 трудовые школы. 2-я советская трудовая школа 2-й ступени приняла в свое распоряжение остатки имущества прежней гимназии, в том числе и здание.
В годы войны между Польшей и Советской Россией Минск с августа 1919 г. по июль 1920 г. находился под польской властью. Гимназия с сентября 1919 г. стала функционировать как единое 8-классное частное учебное заведение. После отступления поляков из Минска оно прекратило свою деятельность.
В межвоенный период в помещениях бывшей гимназии работала советская средняя школа. В годы Второй мировой здание было разрушено. Руины снесены в конце 1940-х гг. Сегодня на этом месте находится бульвар.