Факторный анализ позволяет сократить количество переменных, заменив их набором факторов. Кроме того, он может являться предварительной процедурой перед проведением регрессионного анализа в случае, если ряд предикторов коррелирует между собой.
Пример: предположим, вы разрабатываете батарею психологических тестов, предназначенную для диагностики способностей у школьников. После того, как вы составили ряд задач, а также провели их на выборке учащихся, вам необходимо будет провести факторный анализ. Если высокий балл по одной задаче, как правило, сопровождается высоким баллом по другой задаче, значит, за ними скорее всего стоит некоторый общий фактор. Этот фактор и будет указывать на уровень развития той или иной способности.
А теперь рассмотрим на котиках.
Безусловно, каждый котик — уникальная и сложная личность. У него есть индивидуальные желания и предпочтения, а также собственный взгляд на мир и своё место в нем. Впрочем, некоторые психологические особенности (например, любовь к еде) являются общими для всех котиков.
Однако, к большому сожалению, в отличие от всяких внешних признаков (к примеру таких, как размер или пушистость) психологические особенности не так просто измерить, поскольку их нельзя увидеть. И потому мы нуждаемся в специальных методах для их выявления. В качестве примера вспомним, что большинство котиков склонны точить когти о диван и время от времени царапать своих хозяев. При этом мы наблюдаем линейную положительную взаимосвязь между этими явлениями — котики, которые дерут большее количество диванов, склонны оставлять большее количество царапин.
Глядя на эту взаимосвязь, мы можем предположить, что за этими склонностями стоит некоторая скрытая причина, которая вполне может являться особой чертой котикового характера. Назовём её царапучестью. Чем выше царапучесть, тем больше котики склонны царапать диваны и людей.
Выявить такие скрытые причины (или факторы) помогает факторный анализ, который проходит в несколько этапов. Во-первых, рассчитывается корреляционная матрица между всеми переменными, которые вы замерили: размером, количеством еды, склонностью царапать людей и т. д. Во-вторых, переменные, которые коррелируют между собой, заменяются факторами.
Изначально факторный анализ был разработан психологами для изучения способностей и личностных качеств. Однако со временем область применения данного метода существенно расширилась. Первая большая проблема, которую позволяет решить факторный анализ, это сокращение количества переменных. Как правило, серьёзные исследования подразумевают сбор большого количества данных. Настолько большого, что в них бывает очень трудно разобраться. В этом случае факторный анализ позволяет уменьшить их количество за счёт замены изначальных переменных факторами.
Вторая задача, требующая применения факторного анализа, это устранение мультиколлинеарности из регрессионных моделей. Напомним, что эта проблема заключается в том, что если две или более переменные взаимосвязаны между собой, результаты регрессионного анализа будут крайне ненадёжными. Поэтому такие переменные требуется удалить из анализа. И один из путей — это замена таких переменных факторами.
Разобраться в сложных вопросах статистики проще, чем кажется. Книга «Статистика и котики» (16+) Владимира Савельева — это серьезный и вместе с тем доступный учебник для тех, кто не готов продираться сквозь сухие и перегруженные терминами тексты. В ней сочетается академическая точность с наглядными примерами, что поможет читателю не просто запомнить формулы, а по-настоящему понять логику статистического мышления: