Общепринятой сейчас является точка зрения на математическую статистику как на науку об общих способах обработки результатов эксперимента. Решая эти проблемы, статистика одновременно устанавливает и качества, какими должен обладать эксперимент, чтобы сделанные на его основании суждения были правильными. Это приводит к тому, что она часто дает рекомендации по проведению эксперимента, становится отчасти наукой о его планировании. (Эта сторона ее особенно бурно развивается в настоящее время). Но так смотрели на статистику далеко не всегда...

В математической статистике под оценками понимают приближенные значения истинной величины, полученные на основании результатов выборочного исследования и обеспечивающие возможность принятия обоснованных решений о неизвестных параметрах генеральной совокупности...