Практикуйтесь с самого начала
На самом деле, если сравнивать с биологией или историей, в математике довольно небольшой объём теорем, формул и определений. При этом основная сложность состоит в том, чтобы применять их. Недостаточно просто знать формулу или теорему — необходимо уметь применять её при решении задач.
Так что главный способ запомнить теорию — это решать задачи по этой теории. Да, вначале придется трудно и будет много ошибок. И это нормально, зато станет понятно, почему эта формула или теорема работает именно так.
Не зубрите, а доказывайте
Каждая формула или теорема была кем-то выведена и доказана. Обучение математике устроено так, чтобы за 11 школьных лет ученик прошёл более чем двухтысячелетний период развития математики вместе со знаменитыми учеными.
Поэтому очень полезно выводить все формулы и разбирать доказательства или пробовать самому доказывать теоремы.
Например, в тригонометрии есть около 73 формул, которые школьников просят заучивать. Однако достаточно помнить 4 формулы (определения тангенса и котангенса, основное тригонометрическое тождество и синус суммы двух углов) и свойства тригонометрических функций, чтобы вывести все 73 формулы за одно — три действия. Или в планиметрии: все теоремы и свойства выводятся из 9 аксиом, так что достаточно выучить только их.